AIに「どこまで任せるか」は、一つの数字では決められない——Agentic Profileという設計

Mee

2 日前

読了時間: 3分

AIエージェントに、どこまで仕事を任せてもよいのでしょうか。

「自律度を低くする」「人間の承認を入れる」といった考え方はよく使われます。

しかし、AIのagentic natureを一つの尺度だけで考えると、実際のリスクやHuman Agencyへの影響を見落とすかもしれません。

「自律的なAI」にも、いろいろな形がある

Kasirzadeh & Gabrielが2026年にNatureで発表した Agentic profiles for effective AI governance は、AI agentを単一の「自律性」で分類するのではなく、複数の軸から捉えるagentic profilesを提案しています。

論文では、autonomy、efficacy、goal complexity、generalityという4つの次元が示されています。

参照：Kasirzadeh, A. & Gabriel, I. (2026), Agentic profiles for effective AI governance

https://www.nature.com/articles/s41586-026-10805-z

つまり、あるAIは人間からの介入なしで長く動ける一方、できること自体は狭いかもしれません。別のAIは頻繁に承認を求めても、非常に複雑な目標を扱い、大きな作用力を持つかもしれません。

「自律性が高い／低い」という一つの数字だけでは、この違いは表現できません。

ここからはHYMYの仮説です。

Human Agencyを守る設計でも、「AIにどれだけ任せるか」という単一の委譲量ではなく、そのAIのagentic profileと、人間側に残したい役割との適合を見る必要があるのではないでしょうか。

HYMYではこれを暫定的に Agentic Profile Fit と呼びます。

たとえば、autonomyが高くても作用範囲が小さければ、人間への影響は限定的かもしれません。反対に、autonomyが低くても、非常に複雑な目標について強い提案を行い、人間がほぼ追認するだけなら、Human Agencyへの影響は大きくなり得ます。

これまでのAI設計では、「ここまではAI、ここからは人間」という境界を置く考え方がよく使われます。

しかし、その境界も多次元にしたほうがよいかもしれません。

どの程度独立して動けるのか。現実にどれだけ強く作用できるのか。どれほど複雑な目標を扱うのか。どこまで広い領域で使えるのか。

そして、それぞれの軸について、人間が何を理解し、どこで介入し、どの判断を保持するのかを決める。

この設計なら、「AI agentだから危険」「自律度を下げれば安全」といった粗い分類を避けられます。

Moon&MeのAIは、基本的に現実世界で直接行動するagentではありません。

しかし、意味づけや内省という領域では、ユーザーの解釈に強く作用する可能性があります。

だからこそ、単に「AIが自動で動くかどうか」ではなく、どの程度複雑な解釈を生成するのか、どの範囲の記録を参照するのか、どの程度強い言葉で方向づけるのか、といったprofileを見る必要があります。

AIに任せる量を、一つの数字で決めない。

AIの性質を分解し、人間側に残したいAgencyとの適合を見る。

そのほうが、AIと長く共存するための現実的な設計になるのではないでしょうか。