「分かってもらえなかった」のあとに何が起きるか——AIとの解釈を修復するという設計

Mee
2 日前
読了時間: 4分

AIに自分のことを話していて、「いや、そういう意味じゃないんだけどな」と思ったことはありませんか。人との会話でも同じです。こちらは悲しかったと言っているのに、「つまり怒っているんだね」と決めつけられたり、ただ話を聞いてほしかったのに、勝手に解決策を出されたりすることがあります。そんなとき、本当に大切なのは、最初から一度も誤解されないことでしょうか。私は最近、「間違えないこと」よりも、「間違えたあとに分かり直せること」のほうが大切なのではないかと考えています。

「違います」と言える相手は、信頼できる

どれだけ親しい人でも、相手の気持ちを毎回正確に理解することはできません。AIなら、なおさらです。問題は、誤解が起きることそのものではありません。「違います」と言ったときに、相手がそれを受け止められるか。「私はこう理解したけれど、違ったかもしれない」と、自分の解釈をいったん手放せるか。そして、もう一度話しながら、「では、どういうことだったのだろう」と一緒に考え直せるか。こうしたやり取りができるなら、一度の誤解がそのまま関係の失敗になるとは限りません。

AIも、間違えたあとの対応で信頼が変わる

AIの研究でも、「間違えたあと」が注目されています。 Ofir TurelとTingru Cuiによる2026年の研究では、AIが誤ったあとにどう謝るかによって、利用者の信頼回復が変わることが検討されています。また、Björn KonopkaとManuel Wiescheによる研究では、会話AIが間違えたあと、どのような説明をすると信頼を立て直しやすいかが比較されています。つまり、AIとの関係も「一度も間違えないか」だけではなく、間違えたあとにどう応答するかが重要だと考えられ始めています。ただ、HYMYではもう一歩先を考えてみたいと思います。回復するのは「AIへの信頼」だけなのでしょうか。誤解されたことで、私たち自身が「そうか、私は本当はこう感じていたのかもしれない」と、自分の気持ちを言い直すこともあります。だとすると、誤解のあとには、意味そのものを一緒に作り直すことも起きているのではないでしょうか。

「どこが違いましたか？」と聞く

HYMYでは、人が自分自身を観察し、自分なりの意味を見つけていくためのアプリ「Moon&Me」をつくっています。まさに今、AI機能搭載も開発を進めています。たとえば、利用者が残した日々の記録をAIが読み、「最近、安心できる場所を求めているように見えます」と返したとします。でも本人は、何か違うと感じる。ここで「合っていますか？　間違っていますか？」とだけ聞けば、利用者の返答はAIの正誤判定になってしまいます。では、代わりにこう聞いたらどうでしょう。「どこが違いましたか？」すると、「安心したいというより、誰にも邪魔されずに自分で決めたいんです」という言葉が出てくるかもしれません。これは、AIの間違いを直しただけではありません。AIに訂正を入れる過程で、本人自身の理解も少し深まっています。この「言い直した履歴」を残していけば、蓄積されるのは「AIがだんだん利用者を正確に理解した記録」だけではありません。本人とAIが、何度もズレを見つけながら、一緒に理解を育ててきた記録になります。

考えを変えられるのは、間違えても戻れるからかもしれない

この話はAIだけの問題ではありません。私たちは、人との会話の中で自分の考えを変えることがあります。でも、自分の意見を少し変えた瞬間に相手から押し切られてしまう関係では、安心して考えを変えることは難しいでしょう。反対に、「違うと思ったら言い直せる」「途中で考えが変わってもいい」「相手の理解に自分を合わせなくてもいい」と思える関係なら、自分とは違う考えにも少し近づいてみることができます。もしかすると、人が自分のものの見方を柔軟に変えていくために必要なのは、いつも正確に理解してくれる相手ではなく、ズレても修復できる関係なのかもしれません。

ここからは、HYMYのResearch Seedです

ここまでの研究や観察から、HYMYでは Interpretive Repair Capacity（解釈修復能力）という仮説を置いています。これは確立された理論ではなく、2026年8月10日時点のResearch Seed（研究仮説）です。簡単に言えば、人やAIとの間で「分かってもらえていない」が起きたあとに、誰か一方の解釈を押し通すのではなく、もう一度話しながら理解や信頼を作り直せる力、というものです。今後は、AIの誤解を自分で訂正できるとAIへの信頼はどう変わるのか、AIが「私の理解は違うかもしれません」と言うことはどのくらい必要なのか、AIとの間で「違う」と言い直す経験は人との対話にも影響するのか、といった問いを研究していきたいと思います。 AIがどれだけ賢くなっても、人と人、人とAIの間から誤解がなくなることはないでしょう。だから目指したいのは、何でも一度で分かってくれるAIではなく、何度でも分かり直せるAIです。「そこは違います」と安心して言えること。そして、その言葉からもう一度理解を作り始められること。そんな関係のほうが、長く付き合えるAIには必要なのかもしれません。

参考研究

Turel, O. & Cui, T. (2026). Apologizing artificial intelligence: designing and evaluating effective AI apologies after errors. AI & SOCIETY. DOI: https://doi.org/10.1007/s00146-026-03067-w Konopka, B. & Wiesche, M. (2026). Explainability in AI: Comparing Human-Like and System-Like Trust Repair Strategies. Information Systems Frontiers. DOI: https://doi.org/10.1007/s10796-026-10751-1