top of page

AIに「違う」と言えるか——従わなくてもいいAIを設計する

執筆者の写真: Mee
Mee
9月27日
読了時間: 3分

AIに相談したとき、もっともらしい答えが返ってくると、私たちはつい「そうなのかもしれない」と受け取ります。


では、良いAIとは、私たちが納得しやすいAIなのでしょうか。それとも、私たちが「違う」と言えるAIなのでしょうか。


AIは「答える道具」から「認識を方向づける存在」へ


2026年9月21日、Faisal Saeed Malikは AI and Ethics に AI resistance and epistemic agency: toward a relational framework for democratic and human-centered AI governance を発表しました。


この論文が扱うのは、AIがコミュニケーション、解釈、意思決定、知識生産へ入り込むほど、AIが認識上の権威を持つようになるという問題です。



これは実験によって効果を確立した研究ではなく、AIガバナンスと人間の認識上の主体性について論じた概念・規範的研究です。しかし、AI時代のHuman Agencyを考えるうえで重要な視点を提示しています。


「選べる」だけで、主体的なのでしょうか


AIが三つの案を出し、人間がその中から一つ選べる。これは一見、人間に決定権が残っているように見えます。


けれど、三つの案を作ったのも、何を重要とみなすかを決めたのもAIなら、私たちはAIが作った認識の枠の中で選んでいるだけかもしれません。


そこで重要になるのが、AIの提示した枠そのものに異議を唱えられることです。


「その前提が違います」


「今は結論を出しません」


「別の情報源を見ます」


「AIを使わずに考えます」


こうした行動を取れることも、人間の主体性の一部ではないでしょうか。


HYMYの仮説——AIに「従わない力」を残す


ここからはHYMYの仮説です。


私たちはこの設計課題を、暫定的に Epistemic Resistance/認識上の抵抗 と呼んで考えます。


AI時代のHuman Agencyには、AIを上手に使う力だけでなく、AIの解釈を受け入れない、保留する、反証を求める、別の見方へ移る力も必要ではないでしょうか。


重要なのは、AIへの抵抗を「AIをうまく使えなかった状態」とみなさないことです。


AIの提案を拒否する。AIとの対話を閉じる。自分の言葉だけで考える。別の人や資料に当たる。


これらを正常な利用行動として最初から設計しておけば、AIが便利になるほど人間がAIの認識へ従属していく構造を弱められるかもしれません。


Moon&Meではどう考えるか


Moon&Meが記録から「あなたにはこんな傾向があります」と返したとします。


そのInsightが精巧になるほど、本人は「AIがそう言うなら、自分はそういう人なのだ」と受け取りやすくなる可能性があります。


だから、当てることだけを目標にしません。


「違う」と返せること。


「まだ分からない」と保留できること。


別の見方を開けること。


AIの解釈を閉じ、自分だけで考えられること。


そして、本人がAIに異議を唱えても、AIがさらに説得しようとしないこと。


AIとの良い関係とは、いつもAIに納得する関係ではなく、納得しなくても成立する関係なのかもしれません。

HYMY

人生を、消費から発見へ。

 

HYMYは、人間の世界の見え方と、
生命力を立ち上げる共鳴を探究する
Research & Design Companyです。

 

人が自分自身を観察し、
自分の経験の意味を自分でつくるための
研究とプロダクトを開発しています。

会社名

​代表電話

​所在地

設立

主要取引銀行

事業内容

HYMY株式会社

​(ヒーミー)

03-6555-3291

〒104-0061

東京都中央区銀座1-22-11

​銀座大竹レジデンス2階

2019年5月

三菱UFJ銀行、三井住友銀行

・人間の世界観、意味生成、共鳴に関する研究
・自己観察、内省支援プロダクトの企画・開発・運営
・親子の世界の見え方に関する研究・教育・記録支援
・AIと人間の関係性に関する研究・サービス設計
・法人研修、講演、ワークショップ
・音楽、文章、映像等の研究的コンテンツ制作

© 2026 HYMY

    bottom of page