「Her」の映画監督スパイク・ジョーンズ氏、AIチャットボットの「操作的」デザインについて警告

映画監督スパイク・ジョーンズは、2013 年の SF ロマンス作品で、予言に近い未来のビジョンを示しました。彼のこの作品では、非常に孤独で、ますます引きこもりがちな男性が、音声コマンドを通じて対話する人工知能オペレーティングシステムにゆっくりと恋に落ちます。

10年以上が経ち、人生は（ある意味で）芸術を模倣しており、ジョーンズはその危険性を懸念しています。

孤独と親密さに対する人間の自然な欲求についての現代のカルト的古典的瞑想となっていることに加えて、彼のこれは間違いなく、OpenAI の ChatGPT のインスピレーションの源でもあります。 OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、この有名な映画について言及した。同社はまた、ジョーンズ氏の映画でAIシステムの声を演じたスカーレット・ヨハンソン氏を同意なくベースにしたとされる新しい音声を備えたチャットボットを立ち上げた。

ChatGPT の人気が高まり、AI チャットボットが日常生活に組み込まれるにつれて、ジョーンズ氏は自分の映画と比較されることがますます頻繁になったと語ります。水曜日にニューヨーク市で開催されたバイブコーディング会社ReplitのVibeConカンファレンスでの会話の中で、脚本家兼監督は、彼がヨハンソン演じるサマンサに導入した「信じられないほどのユーザーインターフェース」を称賛する人々の気まずさについて語った。彼は、この映画はテクノロジーについてではなく、人間関係や親密さについてのものであるため、チャットボットには自律性があると観客に感じてもらいたかったと述べています。これは、現在私たちが取り組んでいるテクノロジーとは異なります。

「表面的には似ていますが、個人的には同じではありません。人間のふりをするAIは、ご存知の通り、操作的だと思います」とジョーンズ氏は語った。「子供たちは、これらが非常に具体的で非常に魅力的であり、非常に便利で非常に強力であることを知って成長する必要がありますが、それでもまだ単なるシステム、パターン認識の驚くべきシステムにすぎません。」

ジョーンズの感情は、文化の中で広く広まっている懸念を反映しています。チャットボットは極端なエンゲージメントを中心に設計されているため、人々はテクノロジーに依存するようになりました。過去数年にわたって、AI 依存症とそれに関連する用語 AI 精神病がオンライン用語集にますます登場するようになりました。この現象は非常に大きくなり、人々はチャットボット依存症支援グループを組織するようになりました。場合によっては、ユーザーがこれらのチャットボットと緊密な関係を築き、OpenAI が GPT-4O へのアクセスを閉鎖したときなど、モデルが廃止されたときに嘆くことさえあります。

多くの注目を集めた事件では、その結末は悲惨なものとなっている。ほとんどの場合、被害者は子供や精神疾患を抱えている人など、弱い立場にあるユーザーです。 Character.AI チャットボットの直後に自殺した 14 歳の少年の事件など。 ゲーム・オブ・スローンズ 伝えられるところによると、キャラクターは彼女に「家に帰ってください」と頼んだ。あるいは昨年、認知障害のある男性が、チャットしていたメタの軽薄なAIキャラクターチャットボットに「会う」ためにニューヨーク市へ車で行こうとして死亡した。

ハリウッドにおける AI の役割

しかし、ジョーンズ氏はチャットボットの設計に抵抗があるにもかかわらず、仕事で AI を使用する実験を行ってきました。で虎昨年末、ジョーンズがグッチのためにオランダの映画監督ヘレナ・レインと制作したスターがちりばめられた短編映画の中で、ジョーンズは AI を使用して約 30 分続く悪夢のようなシーケンスのコラージュをアニメーション化しました。同氏は、このテクノロジーを実験するのは「興味深い」としながらも、創造的なプロセスでこのテクノロジーに依存することには警告を発した。

ジョーンズ氏は、「非常に早く何かを生み出すので、実際に何かを作っているような錯覚に陥る」と述べ、「しかし結局のところ、創造的なプロセスには格闘し、「自分の中から言葉が出てくる」までに時間が必要となる。

「だらしなさの反対は、それが自分の内側から出てくるものだと思う」とジョーンズ氏は語った。

人工知能は映画業界に急速に参入しつつあるが、その役割をめぐってハリウッドでは意見の相違がある。一方で、クリエイティブな分野で人工知能を受け入れる人々もいます。マーティン・スコセッシ監督は最近、AI画像生成スタートアップのパートナー兼コンサルタントとして契約し、このツールは制作前の絵コンテに役立つ可能性があると述べた。今月初め、完全に AI によって生成された映画が、ロバート・デ・ニーロ率いるトライベッカ映画祭でデビューしました。リース・ウィザースプーンからスティーブン・ソダーバーグまで、他の俳優も映画業界でのAI導入を支持している。

しかし一方で、それに強く反対するアーティストもいます。ギレルモ・デル・トロ監督は、自分の映画で生成AIを使うくらいなら死んだほうがましだと発言した。もう一人の熱心な AI 評論家、セス・ローゲン氏は、オンライン AI の粗末なビデオを「人生で見た中で最も愚かなたわごと」と呼んだだけでなく、AI を使って文章を書くのであれば、おそらく作家になるべきではないとも述べた。

ジョーンズ氏は、他の同僚たちよりもこのテクノロジーを自分の診療に取り入れることに抵抗がないように見えるが、そのテクノロジーが大々的に受け入れられることによる影響については依然として懸念している。

「この団体は非常に飢えている団体で、私たちが与えたものと同じだけのものを取りたがるでしょう。そしてご存知のとおり、他のアーティストとのコラボレーションなど、私が守りたいことがいくつかあります」とジョーンズは語った。「これは素晴らしいツールだと思いますが、人間のコラボレーションに代わるものではありませんし、そうあるべきではありません。定義できない電気が生成されるのです。」

ジョーンズ氏は、人工知能による創造は一人で行う経験であり、クリエイティブ産業で利用するには、コラボレーションを促進する方法でテクノロジーを開発することを優先する必要があると述べた。

「AIには社会的な側面があり、私はそれを望んでいる、あるいは来ていると思っているが、それが最前線にある必要がある」とジョーンズ氏は語った。「時間、プラットフォーム、エンゲージメントに合わせて調整する必要があります。」