AIは、あなたの辞書を知らない
生成AIとの自己分析で起こる「意味の誤訳」
生成AIに相談すると、驚くほどきれいに自分の気持ちを言語化してくれることがあります。
「そう、それが言いたかった」
と感じることもあります。
自分でも説明できなかった感情に名前がついたり、
散らばっていた出来事が一つの構造として整理されたりする。
自己分析の道具として、生成AIはかなり便利です。
ただし、ひとつ注意したいことがあります。
AIは、あなたが使っている言葉の「あなた独自の意味」を必ずしも知りません。
そして、この小さなズレが、自己分析では思った以上に大きな違いを生むことがあります。
同じ言葉を使っていても、意味が同じとは限らない
たとえば、ある人がAIにこう話したとします。
「私は昔、正しさにこだわりすぎて、人間関係を壊してしまいました」
AIは通常、「正しさ」という言葉を一般的な意味から理解します。
論理的であること。
規範を守ること。
合理性を重視すること。
物事の正誤に強くこだわること。
そのため、
「自分の正しさを優先しすぎて、相手の気持ちを置き去りにしてしまったのですね」
といった整理をするかもしれません。
これは、入力された文章だけを見れば自然な解釈です。
ところが、その人が日常で使っていた「正しい」の意味が、
実際には少し違っていたらどうでしょう。
たとえば、
「自分がそう感じる」
「自分には納得できる」
「自分の不安や不快と矛盾しない」
という感覚を、本人が無意識に「正しい」と呼んでいた場合です。
すると、
私は正しさにこだわっていた
という一文は、外部の人間が読む意味と、本人が使っている意味でズレます。
標準的な言葉に翻訳すれば、
私は、自分の感覚を正しいものとして扱い、それを相手にも適用していた
のほうが近いかもしれません。
この違いは小さくありません。
前者なら
「正義感が強すぎた人」に見えます。
後者なら
「自分の感覚と、他人にも通用する基準を区別できていなかった人」に見えます。
同じ「正しい」という単語でも、話はかなり変わります。
AIは勝手に「個人語辞典」を作ってくれない
生成AIは会話の文脈から意味を推測できます。
しかし、本人自身も気づいていない独自定義まで、
最初から正確に推測できるとは限りません。
たとえば、
「責任を取る」
という言葉でも、
ある人にとっては、
間違いを認め、必要なら謝罪し、修正し、再発を防ぐこと
かもしれません。
別の人にとっては、
一生罪悪感を抱えて生きること
かもしれません。
どちらも本人は「責任を取る」と表現できます。
ところがAIが前者の意味で解釈して、
「あなたは責任を引き受けようとしているのですね」
と返した場合。
本人は、
「そうか。私は責任を取れる人間になったのか」
と受け取るかもしれません。
しかし現実には、まだ具体的な訂正も謝罪も行動変更も起きていない可能性があります。
AIが嘘をついたわけではありません。
同じ単語を、本人とAIが別の辞書で読んでいただけです。
たった少しの「意味のズレ」が、長い自己分析では大きくなる
これは、長いトンネルを掘る作業に少し似ています。
トンネルは、掘り始めの方向がほんの少しずれただけでも、
そのまま何百メートル、何キロと進めば、目標地点からのずれは次第に大きくなっていきます。
最初の違いは、ほんのわずかだったかもしれません。
自己分析でも同じことが起こります。
たとえば本人が、
「正しい」＝「自分の気持ちと矛盾しないこと」
という意味で使っていたとします。
ところがAIは、それを一般的な意味の、
「正しい」＝「論理的・合理的・倫理的に妥当であること」
として受け取った。
最初のずれは、単語ひとつです。
しかしそのまま、
「私は正しさにこだわっていた」
▼
「正論を重視するあまり、他人の感情を置き去りにした」
▼
「私は合理性を追求しすぎる人間だった」
▼
「自分の正しさを優先することで、人間関係を傷つけていた」
と分析を積み重ねていけば、最終的には最初とはかなり違う自己像が出来上がります。
AIは途中で計算を間違えたわけではありません。
最初に設定された進行方向に、かなり正確に掘り進めただけです。
だから生成AIとの自己分析では、
分析が深くなればなるほど、ときどき入口まで戻って、
「そもそも、最初に使ったこの言葉の意味は合っているだろうか？」
と確認する必要があります。
似た概念はすでにある。でも、少し違う
ここでは、この現象を《意味の自己強化ループ》と呼ぶことにします。
「それは確証バイアスやエコーチェンバーでは？」
と思った人もいるかもしれません。
たしかに、かなり近い現象です。
確証バイアスは、
自分の考えに合う情報を集めたり、重く評価したりしやすい傾向です。
エコーチェンバーは、
似た意見が集まる環境の中で、同じ考えが繰り返し反響し、強まっていく現象です。
自己正当化も、
自分の行動や判断を、自分にとって納得しやすい形で説明するという点では近いでしょう。
ただ、ここで《意味の自己強化ループ》と呼んでいるものでは、
その一段手前に注目しています。
問題になるのは、
「同じ意見ばかり集めた」ことだけではなく、
そもそも最初に使った言葉の意味が、他人と少し違っていた可能性があることです。
たとえば本人が、
「正しい」＝「自分がそう感じること」
という意味で使っているのに、
AIや周囲の人が、
「正しい」＝「論理的・合理的に妥当であること」
として受け取ったとします。
すると、その後どれだけ丁寧に話し合っても、
最初から少し違う意味の上に説明が積み上がっていきます。
そして返ってきた説明を本人が、
「これが自分のことだったのか」
と受け取り、さらに次の自己理解の材料にする。
ここで起きているのは、
考えに合う情報を集めることだけではなく、
最初の“言葉の意味のズレ”そのものが、説明を重ねるたびに強化されていくことです。
入力した言葉の意味が少しズレている。
AIは標準的な意味として解釈する。
その解釈を、本人が「自分についての発見」として受け取る。
以後、その説明を使ってさらに自己分析する。
こうなると、最初の小さなズレがどんどん立派になります。
小さな認識違いを前提に、
筋の通った説明がどんどん積み上がっていくようなものです。
このループは、AIとの対話だけで起こるものではない
《意味の自己強化ループ》は、生成AIとの対話に限って起こるものではありません。
現実の人間関係でも、
自分の考えを否定しない人ばかりが周囲にいると、
最初の解釈がそのまま補強され続けることがあります。
SNSでも同じです。
自分が共感した投稿を見たり、似た意見に反応したりしているうちに、おすすめ欄に近い内容が増えていく。
すると、
「やっぱりみんなそう思っている」
「自分の考えで合っていた」
と感じやすくなることがあります。
もちろん、共感によって救われたり、自分だけでは気づけなかった問題に名前がついたりすることもあります。
ただし、
共感が得られたことと、その解釈が必ず正しいことは同じではありません。
人間関係でも、SNSでも、AIとの対話でも、
最初の前提が少しずれていると、
その前提に合う反応だけが集まり、本人の確信だけが強くなることがあります。
生成AIで特徴的なのは、
その補強が、筋の通った説明として整えられて返ってきやすいことです。
AIが優秀であるほど起こりうる
これは、AIが性能不足だから起きる問題とも限りません。
むしろAIは、与えられた前提を使って、非常に整った文章を作るのが得意です。
だから、
入力された前提が少し違う
↓
その前提から非常に整合的な分析が作られる
ということが起こります。
たとえるなら、
最初のボタンを一個ずらして留める。
その後は一つずつ正しく留めている。
でも最後まで行くと、全部ズレてる。
AIが間違えたというより、
最初のボタンを一個ずらして掛けたまま、最後まで丁寧に留めてくれた。
そんな状態です。
AIは、
「この人が『正しい』と言っているのだから、一般的な“正しさ”の意味だろう」
と処理する。
しかし本人の内部では、
「私がそう感じる」
という状態に「正しい」という名前が付いていた。
それなら、計算結果がずれるのは当然です。
計算機が壊れているのではなく、単語の定義がおかしい。
自己分析では「抽象語」を具体的な行動に戻す
では、どうすればいいのでしょう。
自己分析では、AIの答えをそのまま受け取る前に、
自分が使った抽象的な言葉の意味を具体的にしておくことが大切です。
「私は正しさにこだわっていた」
ではなく、
「私は何を正しいと思っていた？」
「責任を取ります」
ではなく、
「責任を取るとは、具体的に何をすること？」
「相手を大切にしていた」
ではなく、
「大切にするために、実際に何をしていた？」
「反省している」
ではなく、
「何をしたことについて、今はどう評価している？」
ここまで下ろす。
すると、言葉の意味がかなり明確になります。
特に自己分析では、
愛
責任
普通
正しさ
優しさ
反省
家族
配慮
自立
のような、誰でも知っている抽象語ほど注意が必要です。
知っている単語だからこそ、わざわざ定義を確認しません。
でも、人によって中身は驚くほど違います。
AIには「反対側」からも聞いてみる
もう一つ有効なのは、
自分の説明をそのまま肯定してもらうだけでなく、別の角度から検証させることです。
たとえば、
「この説明で、私に都合よく省略されている部分はありますか」
「『正しい』という言葉を使わず、具体的な行動だけで説明してください」
「私ではなく相手を主語にすると、同じ出来事はどう見えますか」
「感情と事実を分けて整理してください」
「私の解釈と矛盾する事実があった場合、どの部分を修正する必要がありますか」
こう聞くだけで、AIの役割が変わります。
自分の考えをそのまま補強する係から、
自分の考えを点検する係へ。
生成AIを自己分析に使うなら、こちらの使い方のほうが重要かもしれません。
他人も、自分とは違う辞書を持っている
そしてこれは、AIだけの問題ではありません。
人間同士でも同じです。
自分の「配慮」と相手の「配慮」。
自分の「反省」と相手の「反省」。
自分の「家族」と相手の「家族」。
同じ言葉だから同じ意味だと思って会話すると、長い間すれ違い続けることがあります。
日常会話のたびに辞書を引き合わせることはできません。
だからこそ、大きな問題が起きたときには、
「その言葉で、具体的には何を意味しているのか」
を確認する価値があります。
場合によっては、議論していた内容より、
その前提となる単語の意味が最初から違っていた、ということもあります。
AIは、あなたの言葉の意味まで知っているわけではない
生成AIは自己分析に便利です。
人間には言いづらいことも書ける。
大量の情報を整理できる。
自分では思いつかなかった見方を提示してくれる。
ただし、AIが返す言葉は「自分自身への最終回答」ではありません。
AIは、こちらが渡した言葉を材料に考えています。
その言葉の意味が本人の中で独特なら、分析結果にもそのズレが入り込みます。
だから、AIに自己分析を手伝ってもらうときほど、
「私はこの言葉を、具体的にはどういう意味で使っている？」
と、ときどき自分の辞書を開いてみる。
AIは、自分の考えを映し返す道具にはなれます。
でも、
あなたの頭の中にしかない辞書まで、最初から共有しているわけではありません。
結論
生成AIとの自己分析で気をつけたいのは、AIが間違えることだけではありません。
自分の言葉を、自分自身が標準的な意味で使っているとは限らないこと。
そして、そのズレをAIが標準語として解釈すると、
少し違った自己認識が、非常に説得力のある文章になって返ってくることがあります。
AIの答えに納得したときこそ、
「ところで、私が最初に使ったその言葉。具体的には何を意味していた？」
と一度戻ってみる。
自己理解の点検は、AIの回答ではなく、案外そこから始まるのかもしれません。
旅人が世界に託したひとしずくの力が、小瓶となりモラリアの地に届く。
量は問われない。小瓶はそっと物語の糧となり、時折、住人へ不思議な変化をもたらす。
