top of page

AIに「違う」と言えるか——従わなくてもいいAIを設計する

執筆者の写真: Mee
Mee
9月27日
読了時間: 3分

AIに相談したとき、もっともらしい答えが返ってくると、私たちはつい「そうなのかもしれない」と受け取ります。


では、良いAIとは、私たちが納得しやすいAIなのでしょうか。それとも、私たちが「違う」と言えるAIなのでしょうか。


AIは「答える道具」から「認識を方向づける存在」へ


2026年9月21日、Faisal Saeed Malikは AI and Ethics に AI resistance and epistemic agency: toward a relational framework for democratic and human-centered AI governance を発表しました。


この論文が扱うのは、AIがコミュニケーション、解釈、意思決定、知識生産へ入り込むほど、AIが認識上の権威を持つようになるという問題です。



これは実験によって効果を確立した研究ではなく、AIガバナンスと人間の認識上の主体性について論じた概念・規範的研究です。しかし、AI時代のHuman Agencyを考えるうえで重要な視点を提示しています。


「選べる」だけで、主体的なのでしょうか


AIが三つの案を出し、人間がその中から一つ選べる。これは一見、人間に決定権が残っているように見えます。


けれど、三つの案を作ったのも、何を重要とみなすかを決めたのもAIなら、私たちはAIが作った認識の枠の中で選んでいるだけかもしれません。


そこで重要になるのが、AIの提示した枠そのものに異議を唱えられることです。


「その前提が違います」


「今は結論を出しません」


「別の情報源を見ます」


「AIを使わずに考えます」


こうした行動を取れることも、人間の主体性の一部ではないでしょうか。


HYMYの仮説——AIに「従わない力」を残す


ここからはHYMYの仮説です。


私たちはこの設計課題を、暫定的に Epistemic Resistance/認識上の抵抗 と呼んで考えます。


AI時代のHuman Agencyには、AIを上手に使う力だけでなく、AIの解釈を受け入れない、保留する、反証を求める、別の見方へ移る力も必要ではないでしょうか。


重要なのは、AIへの抵抗を「AIをうまく使えなかった状態」とみなさないことです。


AIの提案を拒否する。AIとの対話を閉じる。自分の言葉だけで考える。別の人や資料に当たる。


これらを正常な利用行動として最初から設計しておけば、AIが便利になるほど人間がAIの認識へ従属していく構造を弱められるかもしれません。


Moon&Meではどう考えるか


Moon&Meが記録から「あなたにはこんな傾向があります」と返したとします。


そのInsightが精巧になるほど、本人は「AIがそう言うなら、自分はそういう人なのだ」と受け取りやすくなる可能性があります。


だから、当てることだけを目標にしません。


「違う」と返せること。


「まだ分からない」と保留できること。


別の見方を開けること。


AIの解釈を閉じ、自分だけで考えられること。


そして、本人がAIに異議を唱えても、AIがさらに説得しようとしないこと。


AIとの良い関係とは、いつもAIに納得する関係ではなく、納得しなくても成立する関係なのかもしれません。

HYMY

会社名

​代表電話

​所在地

設立

主要取引銀行

事業内容

HYMY株式会社

​(ヒーミー)

03-6555-3291

〒104-0061

東京都中央区銀座1-22-11

​銀座大竹レジデンス2階

2019年5月

三菱UFJ銀行、三井住友銀行

・情報セキュリティ支援

・経営支援や業務効率化支援

・研修と講演

・アプリやWEBサービスの開発

© 2026 HYMY

    bottom of page