AIが仕事を続けるほど、「途中で確認する」は誰が決めるのか——Active Focusと持続的自律性
AIに「この作業を終わらせておいて」と頼んだら、途中で問題が起きても自分で工夫して続けてくれる。便利な未来です。しかし、途中で当初の想定と違う方法を選び始めたとき、私たちはどこで気づけるのでしょうか。
AIは「長く取り組む力」を競い始めています
2026年10月12日、MetaはMuse Wonderシリーズを発表し、Active Focusを重要な能力として紹介しました。公式説明によると、難しい目標に向けて別の方法を試し、障害を乗り越え、情報に応じて行動を調整する持続的な作業能力です。重要な行動の前には確認を求めるとも説明しています。
同社はFocusBenchや長期間のソフトウェア開発を対象とするSWE-Marathonで能力を評価していると述べています。これは企業が発表した能力・評価方法であり、長時間の自律行動が現実のあらゆる環境で安全だと証明されたわけではありません。
問題は、作業時間の長さだけではありません
「来週の予定を整理して」と頼んだAIが、予定を見直すだけなら影響は限られます。しかし、関係者への連絡、会議のキャンセル、外部サービスの設定変更まで自律的に進めたらどうでしょう。
同じ目標でも、途中で使う手段によって必要な権限は変わります。最初の一度の承認で、後から生まれるすべての選択肢まで許可したことにはなりません。
HYMYの仮説——Renewable Delegation
ここからはHYMYの仮説です。長く働くAIには、一度与えた権限を、重要な分岐点で更新する仕組みが必要なのではないでしょうか。これを暫定的にRenewable Delegation（更新可能な委譲）と呼びます。
重要なのは単なる「停止ボタン」ではありません。予定外の手段を使う前に確認する、予算・対象範囲・実行時間に上限を設ける、一定の節目で人間に方針を問い直す、操作履歴を残して後から説明できるようにする、といった設計です。
これはMetaが示したActive Focusの危険性が実証されたという意味ではありません。能力が伸びるとき、権限の更新条件を独立して設計すべきだというHYMYの提案です。
Moon&Me／HYMYで考えるなら
Moon&Meのような自己理解を支えるAIが、継続的に記録を参照し、次の行動を提案するとします。本人が一度「提案して」と答えたからといって、将来の選択までAIが決めてよいわけではありません。
AIは考える材料を届ける。本人が採用するか、見送るか、方向を変えるかを決める。そうした境界を、時間がたっても維持する必要があります。
AIが諦めずに働けることと、人間がいつでも考え直せること。この二つを両立させることが、持続的なAIの安全設計に必要です。
事実・評価・仮説：Active Focusの機能説明とベンチマークはMetaの公表内容です。現実環境での危険の程度はこの資料だけでは確定しません。Renewable DelegationはHYMYの未検証仮説です。
