AIの安全性を、AI企業だけに評価させてよい？——「第三者評価」を安全インフラにする

AI企業が「このモデルは安全です」と説明したとき、私たちは何を根拠にそれを信じればよいのでしょうか。 製品を作った企業自身による評価は必要です。しかし、能力が社会へ与える影響が大きくなるほど、作り手だけが試験し、作り手だけが結果を解釈する構造には限界があります。

OpenAIが、第三者評価に「深いアクセス」を認める原則を公表しました

2026年9月22日、OpenAIはフロンティアAIの第三者評価について、新しい優先事項と原則を公表しました。OpenAIは、独立評価者が訓練・評価・展開の各段階へ深くアクセスし、企業側の前提を検証し、見落としたリスクを発見し、安全策の有効性について独自の結論を出せることが重要だとしています。 参照：OpenAI, Priorities and principles for effective third party assessments（2026-09-22） https://openai.com/index/priorities-principles-third-party-assessments/ これは「第三者が安全を保証する」という意味ではありません。確認できるのは、フロンティアAI企業自身が、内部評価だけではなく独立した評価主体による検証を安全ガバナンスの構成要素として明示的に位置づけ始めていることです。

Anthropicでも「外から見る」評価が、より内部へ入ろうとしています

Anthropicは9月18日、Accenture傘下のFacultyと、フロンティアAIの独立評価・レッドチーミング・アラインメント評価・安全策検証を行う提携を発表しました。特徴的なのは、評価者が従来の外部評価より深く企業内部へ入り、従業員に近いアクセスを持つ「embedded evaluation」を構想している点です。 参照：Anthropic, Partnering with Accenture on embedded evaluation（2026-09-18） https://www.anthropic.com/news/accenture-embedded-evaluation 一方でAnthropic自身も、この仕組みは新しく、具体的な運用方法の多くはまだ設計中だと説明しています。つまり、独立性と深いアクセスをどう両立するかは、まだ解かれていない問題です。

HYMYの仮説——「評価可能性」そのものを安全性能に含める

ここからはHYMYの仮説です。 AI安全では、モデルが危険な能力を持つかどうかだけでなく、その安全性について企業の外側から検証できる状態にあるかも、安全性能の一部として扱う必要があるのではないでしょうか。 第三者評価が機能するには、評価者が名前だけ独立していれば十分ではありません。必要なモデル、ログ、評価環境へアクセスできること。企業側と異なる仮説を試せること。不都合な結果も独立して報告できること。そして、評価結果が次の公開判断や安全策へ実際につながることが必要です。 これをHYMYでは暫定的に「評価可能性」と捉えます。安全だと主張できることではなく、安全だという主張を他者が反証し得る構造を持つことです。

Moon&Me / HYMYなら、どう設計できるか

この考え方はフロンティアAI企業だけのものではありません。 Moon&MeやHYMYのAIでも、AIが出した解釈や判断について、後から「なぜそうなったか」を人間が確認できること。内部評価だけで品質を判断せず、独立したテストや利用者からの反証を受け取れること。重大な変更では、作った本人とは別の視点で検証すること。 AIが高度になるほど、安全性は「作り手が気をつけている」という善意だけでは支えられません。 安全であることと、安全かどうかを外から確かめられること。 その二つを分けて設計することが、AIを社会の中で長く使うための基盤になるのではないでしょうか。