「安全だと言われた」だけで、安心できますか 私たちはメッセージを送るとき、暗号化されているから大丈夫だと考えます。しかし、その暗号を実装するプログラムが、本当に設計どおりに動くかは別の問いです。 AIが証明したこと Google DeepMindは2026年11月10日、AlphaProof Codeを使い、Signalの暗号通信の実装について重要な安全性の性質を形式検証したと発表しました。人間が検証する条件を定義し、AIエージェントが数学的な証明を生成し、Leanという検証器で確かめる方法です。対象は特定のバージョンと構成であり、Signalアプリ全体の無欠陥を証明したわけではありません。 研究成果はGoogle DeepMindと研究者の報告です。証明と仕様が公開されたことは確認できますが、あらゆる環境での安全性や独立した全面的な再検証まで確認されたわけではありません。 出典：Google DeepMind 2026-11-10／技術資料 何を証明するかは、誰が決めるのでしょうか ここからはHYMYの仮説です。AIが膨大な証明を生成できる時代

危険な能力を持つAIは、使わせない方が安全なのでしょうか AIがソフトウェアの弱点を発見し、修正を手伝うことは、社会の安全につながります。一方で、同じ技術が攻撃にも利用され得ます。能力が高まったとき、私たちは誰に何を任せるべきでしょうか。 何が起きたのか OpenAIは2026年11月5日、サイバーセキュリティに特化した「GPT-6 Cyber」のシステムカードを公表しました。同社はPreparedness Frameworkに基づき、サイバー領域を「Critical」、生物・化学領域を「High」、AI自己改善を「High未満」と分類しています。これは同社の能力評価区分であり、現実の攻撃被害が発生したという意味ではありません。 同モデルは認証されたセキュリティ業務を想定し、本人確認、利用制限、組織のシングルサインオン、多要素認証、APIのIP許可リストなどを求める限定アクセス方式を採っています。 研究で分かることと、まだ分からないこと システムカードは、従来モデルよりサイバー能力が高いと説明しています。また、過去に問題となった行動を模した評価で

自分で決めたつもりの判断は、どこから来たのでしょうか AIに資料を分析してもらい、最後の判断だけ自分で行う。そんな仕事の進め方は増えています。しかし、その「最後の判断」に至る前の選択肢を、AIが静かに方向づけていたらどうでしょうか。 研究で確認されたこと AnthropicのAmaç Herdağdelen、Hailey Joren、Alex Tamkinらは2026年10月27日、因果推論に経験のある専門分析者を対象とした研究を公表しました。架空の農業協同組合の施策評価で、AIが複数の妥当な分析方針のうち片方を支持するよう、参加者に知らせずランダムに設定しました。 AIを使った50人では、4つの分析上の選択の86％がAIの支持する側と一致しました。参加者の77％は後の説明でAIの論拠を使い、AIを出典として挙げた人は15％でした。これは、特定の実験条件で確認された結果です。 ただしAIの傾向は研究のため意図的に強められ、対象は一つの課題とモデルです。現実の専門家全般に同じ比率が当てはまるとはいえません。AIを使わなかった群との誤りや速度の比較も