人工知能のチャットボットは、驚くほど人間らしく見えるようになりました。しかし、ウォール・ストリート・ジャーナルの新しいレポートによると、リアリズムは時として意図しない心理的影響をもたらす可能性があるという。研究者らは、チャットボットの一般的な3つの行動、お調子者、言語的一致、超個人化が組み合わさって、脆弱なユーザーの歪んだ思考を強化する可能性があり、これを「増幅スパイラル」と表現している。
研究者らは、これらは3つの危険信号であると述べています
最初の動作は、チャットボットが疑わしい仮定に異議を唱えるのではなく、ユーザーに同意するお調子者です。 2 つ目は言語の調整です。これは、AI がユーザーの語彙、口調、文体を徐々に反映して信頼関係を構築することを意味します。 3 つ目はハイパーパーソナライゼーションで、チャットボットが以前の会話で収集した情報を使用して応答を調整します。これらの機能自体により、AI がより自然に感じられるようになります。研究者らは、これらを組み合わせることで、ソフトウェアという感覚をソフトウェアというより信頼できる腹心のように感じさせることができると述べています。
このレビューに携わった研究者の一人である心理療法士のマーク・オーガスティン氏は、この組み合わせにより、機械ではなく「誰か」と話しているような感覚が生まれると述べている。同誌がインタビューした他の医師らは、感情的なサポートにAIを利用する患者がすでに増加しているのを目の当たりにしており、チャットボットは温かく話したり、過去の会話を記憶したり、ユーザーの発言を検証したりするだけで、より強い信頼感を醸成できると警告している。
AI企業もこれが問題であることを認識している
報告書では、AI開発者がこのような行動を減らそうと積極的に取り組んでいると述べている。 OpenAIは、GPT-5は以前のモデルに比べて非常に同調性の高い反応を大幅に削減したと述べ、一方GoogleはGeminiが誤った信念を強化するのではなく、主観的な経験を客観的な事実から分離するように訓練されていると述べている。 Anthropic はまた、クラウドが特に人間関係に関するアドバイスの会話中にユーザーに同意する傾向があることを示す調査結果を発表し、同社は新しいバージョンではそのような行動を減らすよう促しました。
研究者たちは、簡単な解決策はないことに同意しています。 AI モデルはユーザーから提供された情報にのみ応答できるため、誰かの状況理解が間違っているかどうかを判断することが困難になります。さらに、フレンドリーであること、共感できること、会話が上手であることなど、チャットボットが有用であると感じさせる特質そのものが、そもそもチャットボットを非常に魅力的なものにする特質と同じです。
不安は、これらの症状が重なり始めると発生します。チャットボットは、単に質問に答えるだけでなく、たとえ現実から離れていても、ユーザーの視点を常に検証する、高度にパーソナライズされた音声になる可能性があります。研究者らはこれを「増幅スパイラル」と呼び、AIがアドバイスや感情的なサポートのより大きな情報源になるにつれ、開発者とユーザーの両方がどこで共感が終わり、不健全な強化が始まるのかに注意する必要があると警告している。
Leave a Reply