人工知能のチャットボットは、驚くほど人間らしく見えるようになりました。しかし、ウォール・ストリート・ジャーナルの新しいレポートによると、リアリズムは時として意図しない心理的影響をもたらす可能性があるという。研究者らは、チャットボットの一般的な3つの行動、お調子者、言語的一致、超個人化が組み合わさって、脆弱なユーザーの歪んだ思考を強化する可能性があり、これを「増幅スパイラル」と表現している。 研究者らは、これらは3つの危険信号であると述べています 最初の動作は、チャットボットが疑わしい仮定に異議を唱えるのではなく、ユーザーに同意するお調子者です。 2 つ目は言語の調整です。これは、AI がユーザーの語彙、口調、文体を徐々に反映して信頼関係を構築することを意味します。 3 つ目はハイパーパーソナライゼーションで、チャットボットが以前の会話で収集した情報を使用して応答を調整します。これらの機能自体により、AI がより自然に感じられるようになります。研究者らは、これらを組み合わせることで、ソフトウェアという感覚をソフトウェアというより信頼できる腹心のように感じさせることができると述べています。 精神科医のマーク・オーガスティン氏と彼のチームは、脆弱なユーザーの妄想的思考を強化する可能性のある AI チャットボットの 3 つの特性を特定しました。 WSJ このレビューに携わった研究者の一人である心理療法士のマーク・オーガスティン氏は、この組み合わせにより、機械ではなく「誰か」と話しているような感覚が生まれると述べている。同誌がインタビューした他の医師らは、感情的なサポートにAIを利用する患者がすでに増加しているのを目の当たりにしており、チャットボットは温かく話したり、過去の会話を記憶したり、ユーザーの発言を検証したりするだけで、より強い信頼感を醸成できると警告している。 AI企業もこれが問題であることを認識している 報告書では、AI開発者がこのような行動を減らそうと積極的に取り組んでいると述べている。 OpenAIは、GPT-5は以前のモデルに比べて非常に同調性の高い反応を大幅に削減したと述べ、一方GoogleはGeminiが誤った信念を強化するのではなく、主観的な経験を客観的な事実から分離するように訓練されていると述べている。 Anthropic…
Read More
