AIとの対話が「評価」に変わるとき、人は自由に考えられるか——心理的安全性を守るAI設計

Mee
2 日前
読了時間: 3分

AIとの会話は、人と話すより気楽だと感じることがあります。

間違ったことを言っても恥ずかしくない。考えがまとまっていなくても、とりあえず書ける。

けれど、その会話が会社の評価に使われると知ったら、同じように率直に話せるでしょうか。

AIそのものより、「評価されている状況」が問題になる

Allen Samuel Brown、Christopher Dishop、Andrew Kuznetsov、Anita Williams Woolleyによる2026年の研究 Safe to Talk: Psychological Safety and Conversational AI at Work は、この問いを2つの事前登録実験で検討しています。

研究では、間接的に評価される文脈で会話型AIと協働した人は、人間のパートナーと協働した場合より心理的安全性が低くなりました。一方、非評価文脈では、その差は見られませんでした。

さらに、この違いにはautonomy satisfactionが関わっていました。2つ目の研究で自律性を支える条件を用意すると、人間とAIの間に見られた心理的安全性の差が消えています。

参照：Brown, A. S., Dishop, C., Kuznetsov, A. & Woolley, A. W. (2026), Safe to Talk: Psychological Safety and Conversational AI at Work

https://journals.aom.org/doi/10.5465/AMPROC.2026.18369abstract

この研究だけから、会話型AIが一般に心理的安全性を下げるとは言えません。むしろ示されているのは、AIの影響が、対話が置かれた評価文脈によって変わるということです。

Seyyid A. Ciftciによる Designing Synthetic Work Relationships with Agentic AI でも、AIとの関係を単なるツール利用ではなく、役割・権限・介入権を持つ継続的な仕事上の関係として設計する必要性が論じられています。AIの役割設計は、性能だけでなく人間のautonomyや心理的な仕事経験にも関わります。

参照：Ciftci, S. A. (2026), Designing Synthetic Work Relationships with Agentic AI: A Human-Centered Framework for Role-Based Collaboration

https://journals.sagepub.com/doi/10.3233/FAIA260561

HYMYの仮説：「評価の影」があるだけで、思考は変わるのではないか

ここからはHYMYの仮説です。

AIとの対話でHuman Agencyを守るためには、「AIが正しいか」「AIに何を任せるか」だけでは足りません。

この対話を誰が見るのか。何のために使うのか。あとから評価材料に変わるのか。

この条件そのものを設計する必要があるのではないでしょうか。

本人が自由に考えるための会話でも、「ここで書いたことが上司に見えるかもしれない」「評価に反映されるかもしれない」と感じれば、まだ形になっていない考え、迷い、失敗、異論を出しにくくなります。

これを暫定的に Evaluative Shadow（評価の影）と呼びます。

重要なのは、実際に評価されているかだけではありません。「評価される可能性がある」と認識すること自体が、対話の性質を変えるかもしれないという点です。

内省と評価のあいだに、境界を置く

そこで設計変数になるのが Evaluation Boundary です。

たとえば、Private Reflection ModeではAIとの対話を本人だけの思考空間として扱う。誰が閲覧できるか、何に利用されるかを明示する。内省データを人事評価やスコアリングへ自動転用しない。そして、本人が「これは共有する」と選んだ情報だけを外へ渡す。

これは単なるプライバシー表示ではありません。

人が安心して未完成の考えを持てる場所を、システムとして守るということです。

Moon&Me / HYMYなら、どう考えるか

Moon&Meに書く言葉は、成果物ではありません。

「今日は何もしたくない」「昨日とは違う気がする」「自分でもよく分からない」といった、結論になる前の言葉も含まれます。

AIがそれを整理したり、別の見方を示したりすることはできます。しかし、それらを本人の能力・性格・望ましさを測るスコアへ自動的に変換したら、内省の場は評価の場へ変わってしまいます。

HYMYでは、本人のための観察データと、外部へ提示するデータを分けることを重要な原則として考えます。

AIと話しているときに必要なのは、ただ「安全です」と表示することではありません。

ここではまだ評価されない。まだ決めなくてよい。まだ未完成のままでよい。

そう思える空間があることも、人が自分で考え続けるためのHuman Agencyの一部なのかもしれません。