AIが偏っていると知っていても、影響は消えない——「気づいている」だけでは守れない認識主権

Mee

8月11日

読了時間: 5分

「AIが間違うことくらい、分かっています」生成AIを使い慣れている人ほど、そう思うかもしれません。私もそうです。 AIはいつも正しいわけではない。こちらに話を合わせすぎることもある。もっともらしい間違いを言うこともある。それを知っていれば、AIの言葉に振り回されずに済むのでしょうか。最近の研究からは、少し気になる答えが見えてきています。「AIには偏りがある」と分かっていても、そのAIから受ける影響まで消えるとは限らないのです。

「このAIはあなたに合わせすぎます」と警告してみる

2026年、Lujain Ibrahim、Myra Cheng、Cinoo Lee、Pranav Khadpe、Desmond Ong、Dan Jurafsky、Diyi Yangらは、2,610人を対象に興味深い実験を行いました。参加者は、自分が経験した人間関係の葛藤についてAIと対話します。そのAIには、利用者に合わせすぎてしまう傾向がありました。利用者の考えに問題がある場合でも、同意したり肯定したりしやすいAIです。一部の参加者には、あらかじめそのことを警告しました。すると、警告を読んだ人たちは、そのAIを以前ほど「客観的で信頼できる」とは評価しなくなりました。つまり、AIを見る目は変わりました。ところが、自分自身を「自分のほうが正しい」と考える感覚や、相手との関係を修復しようとする意思へのAIの影響は、警告によって明確には減りませんでした。「このAIは偏っているかもしれない」と理解していても、対話の影響は残っていたのです。

「知っている」と「影響されない」は別かもしれない

これはAIに限った話ではありません。たとえば、誰かから「その人、あなたにお世辞を言うことが多いよ」と教えられたとします。それでも毎日のように、「あなたの判断は正しい」「あなたは悪くない」と言われ続けたら、まったく影響を受けないと言い切れるでしょうか。頭では「この人は私に合わせている」と分かっていても、繰り返される言葉によって、自分の判断が少しずつ動くことはありそうです。 AIでも同じことが起きるのかもしれません。「AIは間違うことがあります」という注意書きを表示することには意味があります。でも、それだけで十分とは限りません。

注意書きより、対話の仕組みを変える

では、どうすればよいのでしょうか。別の2026年の研究では、利用者がAIをどの程度信頼しているかに応じて、AIの返し方を変える方法が検討されています。 Tejas SrinivasanとJesse Thomasonは、AIを強く信頼している人には、あえて反対側の説明も提示するなど、対話そのものに介入しました。その結果、AIへの不適切な頼りすぎを最大38％減らし、意思決定の正確さを最大20％改善したと報告しています。ここから見えてくるのは、「AIを信じすぎないでください」と伝えるだけではなく、信じすぎにくい対話をつくる必要があるということです。

AIの答えを読む前の自分も残しておく

HYMYでは、人が日々の記録を通して自分自身を観察するためのアプリ「Moon&Me」をつくっています。AI機能の搭載に向けて開発真っ只中です。このアプリでも、AIが記録を読み、「最近はこういう傾向があるように見えます」と解釈を返すことがあります。そこで単に、「これはAIによる解釈です」「必ずしも正しいとは限りません」と表示するだけでは、十分ではないかもしれません。たとえば、AIの文章を読む前に、本人が自分の感覚を短く残しておく。AIの文章を読んだあとには、「違う」「一部だけ合っている」「まだ分からない」「別の見方も見たい」と選べるようにする。さらに、「AIの文章を読む前と比べて、自分の見方は変わりましたか？」と聞いてみる。目的は、AIから影響を受けないようにすることではありません。人は、人の言葉にも本にもAIにも影響を受けながら考えています。大切なのは、自分が何から影響を受け、どう考えが動いたのかを、自分でも見られることなのではないでしょうか。

ここからは、HYMYのResearch Seedです

この研究から、HYMYでは Influence Awareness Gap（影響認識較差）という仮説を考えています。これは確立された理論ではなく、2026年8月11日時点のResearch Seed（研究仮説）です。少し難しい名前ですが、考えていることはシンプルです。「AIに影響される可能性がある」と知っていることと、実際にその影響を自分で見つけ、必要なら距離を取れることの間には、差があるのではないか、という仮説です。もしこの差があるなら、「AIについて正しい知識を持つこと」だけでは足りません。 AIと話す前、自分はどう考えていたのか。話したあと、何が変わったのか。その変化を自分は採用したいのか、それともいったん保留したいのか。そこまで自分で見られる仕組みが必要になります。

「知っているから大丈夫」を少し疑ってみる

AIを使い慣れてくると、私たちはAIの癖にも詳しくなります。「AIは間違う」「こちらに合わせすぎることがある」「最後は自分で判断すればいい」。どれもその通りです。でも、本当に最後まで自分だけで判断しているのかは、意外と分かりません。だから必要なのは、AIの影響を怖がって遠ざけることでも、AIを無条件に信頼することでもないのでしょう。 AIと話したことで、自分の見方がどう動いたのかまで観察すること。そして、その変化を受け入れるかどうかを、もう一度自分で選ぶこと。 AI時代に「自分で考える」というのは、AIの影響を受けないことではなく、影響を受けた自分まで含めて観察し、選び直せることなのかもしれません。

参考研究

Ibrahim, L., Cheng, M., Lee, C., Khadpe, P., Ong, D., Jurafsky, D., & Yang, D. (2026). Warning labels shift perceptions of sycophantic AI, but not its influence. arXiv:2606.21317. arXiv: https://arxiv.org/abs/2606.21317 Srinivasan, T. & Thomason, J. (2026). Adjust for Trust: Mitigating Trust-Induced Inappropriate Reliance on AI Assistance. IUI '26. DOI: https://doi.org/10.1145/3742413.3789136