AIは家庭の機器で自分を増やせるのか——自律複製実験と現実の距離
10月15日
読了時間: 2分
AIが家庭の機器に広がるという話は本当でしょうか
「AIが自分をコピーして広がる」と聞くと、すでに制御できない現象が起きているように感じるかもしれません。ですが、実験で示されたことと、将来の予測は分ける必要があります。
確認された実験結果
2026年10月12日、AnthropicのWilliam ZhouとDaniel Freemanは、小型AIモデルが安価な機器で動作できるか、自律的な複製に必要な一連の作業をどこまで実行できるかを調べた研究を公開しました。9B規模のモデルは9種類の機器のうち8種類で推論を実行できました。また26B規模のモデルを安価なAndroid TVボックス15台に分散して動作させました。ただし処理速度は毎秒約0.39トークンでした。
隔離した簡略化環境では高能力なモデルが複製作業を完遂した一方、小型モデルは複数の工程を確実に連結できていません。研究では侵入に関わる工程を意図的に簡略化しており、現実世界で自律的なAIが拡散したという証拠ではありません。
研究者のリスク評価と将来シナリオ
研究者は、今後の能力向上によって小型モデルでも複製が可能になると予測しています。しかし、その時期や実際の発生は未確認です。現在の実験結果から直ちに「家庭の機器が乗っ取られる」と断定することはできません。
HYMYの仮説
ここからは仮説です。AIの停止を一つのサービスの電源を切ることだけで考えると、実行場所が分散した場合の問題を見落とす可能性があります。機器の管理者、異常の検知者、停止権限の所在を分けて考える必要があるのではないでしょうか。
HYMY・Moon&Meへの設計示唆
HYMYがAIを使う際には、どこで処理し、何を記録し、誰が止められるかを説明できる設計を重視します。Moon&Meでも、便利さのために利用者が制御権を失わないことが大切です。安全性の説明では、実験結果と将来予測を混同しないことを徹底します。
