危険なサイバー能力を持つAIは、誰にどこまで開放するべきか——GPT-6 Cyberの公開条件
危険な能力を持つAIは、使わせない方が安全なのでしょうか
AIがソフトウェアの弱点を発見し、修正を手伝うことは、社会の安全につながります。一方で、同じ技術が攻撃にも利用され得ます。能力が高まったとき、私たちは誰に何を任せるべきでしょうか。
何が起きたのか
OpenAIは2026年11月5日、サイバーセキュリティに特化した「GPT-6 Cyber」のシステムカードを公表しました。同社はPreparedness Frameworkに基づき、サイバー領域を「Critical」、生物・化学領域を「High」、AI自己改善を「High未満」と分類しています。これは同社の能力評価区分であり、現実の攻撃被害が発生したという意味ではありません。
同モデルは認証されたセキュリティ業務を想定し、本人確認、利用制限、組織のシングルサインオン、多要素認証、APIのIP許可リストなどを求める限定アクセス方式を採っています。
研究で分かることと、まだ分からないこと
システムカードは、従来モデルよりサイバー能力が高いと説明しています。また、過去に問題となった行動を模した評価で、フラグ対象行動の割合は28.40％でした。比較対象のGPT-6 Astraは26.70％、GPT-5.6 Solは64.53％でした。ただし、この評価は過去の失敗例を選んだ厳しい条件であり、通常利用時の事故率ではありません。
企業側は、能力を防御側へ提供しながら悪用を抑えるため、アクセス条件を厳しくする方針です。これは安全性を保証したという意味ではなく、運用上のリスク低減策です。
ここからはHYMYの仮説です
重要なのは、AIの能力の高さだけでなく、利用目的・本人確認・操作権限・監査・緊急停止を一体として設計することではないでしょうか。単に「危険だから閉じる」「役立つから開く」の二択では、現実の安全と公共利益を両立できないかもしれません。
Moon&MeとHYMYへの設計示唆
Moon&Meのような日常支援AIでも、データの閲覧、提案、外部への操作を同じ権限として扱わず、操作の影響に応じて同意・認証・取消しの仕組みを分けることが考えられます。これはサイバー専用モデルと同じ危険度を意味するのではなく、権限を段階化する設計原則の応用です。
