AI冷戦はさらに寒くなった

新たに世界で最も価値のあるスタートアップに選ばれ、広く報道されている最も有能な AI システムの開発者である Anthropic は、国内外で喧嘩を売ることで知られる政権下に置かれることになり、微妙な一線を歩むことになる。業界をリードする AI モデルの構築を継続したい場合は、少なくとも当面は、連邦政府独自の条件で構築する必要があります。これには、たとえ取るに足らないスパイウェアを介して実行する必要がある場合でも、中国による不正行為を注意深く監視することが含まれることは明らかです。

今週初め、タイムゾーンやプロキシ URL の使用などの明白なシグナルを検出することで、中国に拠点を置く (または中国の AI ラボに関連する) ユーザーに密かにフラグを立てるように見える Cloud Code 内に構築されたメカニズムに関する苦情が Reddit で表面化し始めました。 Redditor 主張した Anthropic は、中国人ユーザーを密かに追跡することで、最終的にはスパイウェアをより悪意のある目的に使用する可能性があります。「今日はタイムゾーンのチェックだ」とレディターは書いた。「明日には、システム妨害行為やデータ侵入が起こる可能性があります。」

これに対する Anthropic の反応は基本的に次のとおりでした。「痛い、デイジー!」で [the spyware] しばらくの間ダウン」し、「完全に戻す」必要があると述べました。 Fable 5 の再割り当てそれは火曜日に来ました。アンスロピック社は、プログラムのスケジュールと目的に関する詳細情報の共有要請にすぐには応じなかった。

中国は長い間、人類にとって厄介な存在でした。同社は中国の大手AI研究所数社を告発した。ディープシーク、ムーンショット、ミニマックス、そして最近、アリババ新しい AI モデルをトレーニングするためにクラウドを違法に使用します。このプロセスは業界では蒸留として知られています。蒸留は、小規模企業がクラウドや ChatGPT などの大手企業を使用して新しいモデルをトレーニングできるようにする一般的で一般的に無害な手法ですが、最近、米国と中国の間の AI 軍拡競争の入札点として浮上しています。ホワイトハウスは取り締まりを約束した言われてきました「連携運用」として [that] アメリカの専門知識とイノベーションを活用して、アメリカの AI モデルから機能を体系的に抽出します。」

昨日の待望の Fable 5 の再リリースは、終わりでもあり、始まりでもありました。一方で、すべての「外国人」に対してモデルをオフラインにするというハワード・ラトニック米国商務長官の命令から先月初めに始まった、トランプ政権とのアンスロピックの最近のつまずきは終わったかのように見えた。国家安全保障上のリスクを引用し、明らかに中国を念頭に置いていたラトニック氏の命令は、アマゾンの研究に一部触発されており、伝えられるところによると、ファブルの強力なセキュリティガードレールは創造的な間接的な方法でジェイルブレイク、つまりバイパスできる可能性があることが示されたという。しかしこの発表は、連邦政府とAI分野の協力における新たな規範となる可能性があることも示した。

その中で発表Anthropic 氏は、Amazon が報告したジェイルブレイク疑惑の大部分は、以前の強力でないバージョンのクラウドでも検出できた可能性のあるサイバーセキュリティの脆弱性を特定したことに他ならないことを認めました。 Amazonのレポートでは、Fableが特定のセキュリティ上の欠陥が悪用される方法を示すコードまで作成した一例を挙げているが、Anthropicによると、OpenAIのGPT-5.5やMoonshotのKM-K2.7など、他のいくつかのモデルでも同様のことが可能だったという。

つまり、アントロピック氏は、少なくとも国家安全保障に関する限り、連邦政府の標的化にはまったく根拠がないと述べた。社内のジェイルブレイクテストにKM-K2.7が含まれていることは、長年にわたってオープンソースモデルを大々的に推進してきた中国のAI業界ほど、Anthropicのトップモデルに対する連邦政府の禁止から利益を得ている人はいないという多くのサイバーセキュリティ専門家の主張を裏付けるものであり、重要である。 Fable/Mythos が禁止される前から、これらのオープンソースの代替案は、Cloud Codes や OpenAI の Codex などの国産 AI ツールのコスト高騰に不満を抱いていた米国の開発者や企業の間で大きな魅力を持っていました。

しかし、全体として、Anthropic の発表は防御的というよりも融和的なものでした。全体的な論調は次のとおりでした。私たちはこれに値するようなことをしたとは思っていませんが、それでも私たちは連邦政府、そしてテクノロジー業界の競合他社、つまりアマゾンと協力して、この種の大失敗が私たちや他の誰かに不必要に再び起こらないようにしていきたいと考えています。

同社は、大手ハイテク企業数社や他のProject Glasswingパートナー組織と緊密に連携し、「AI脱獄の重大性とAI開発者がそれにどのように対応すべきかを評価するためのコンセンサスフレームワークの草案」を進めていると述べた。「武器化の容易さ」など、そのような枠組みが測定すべきいくつかの初期基準を示し、脱獄事件を24時間年中無休で監視する社内チームを割り当てたと述べた。この発表には、アンスロピックと連邦政府の今後の関係について、「フロンティアモデルプロバイダー向けの共有された自主的なセキュリティと評価基準に向けて取り組む」ことなど、慎重な文面での警告も含まれていた。

いつものように、明示的に言及されなかったとしても、Anthropic の発表には中国の亡霊が迫っていた。

同社は長い間、自らをAI業界の良心であり、シリコンバレーが現在進行中の新たな技術革命のリスクに目をつぶらざるを得なくなる可能性がある市場勢力に対する対抗勢力であると主張してきた。同時に、米国にはAI開発の世界的リーダーになる道義的義務があると主張することで、トランプ政権とその最大のライバルであるOpenAIの党方針をしばしば繰り返している。なぜなら、我々が強化しなければ、中国がそうなるという論理だからだ。私たちか中国のどちらかというバイナリフレーミングは、AI国際委員会に対して同社が最近呼びかけた、最先端のAIの進歩を監視し、必要に応じてブレーキをかけるよう呼びかけた背後にあるものの大きな部分を占めていた。

アンスロピックのダリオ・アモデイ最高経営責任者（CEO）も、おそらく冷戦時代の核不拡散条約をモデルにした米国と中国のAI産業間の協力の必要性を頻繁に強調している。このような協力は間違いなく可能だが、現政権下ではその可能性は非常に低い。中国のユーザーをターゲットにした秘密のスパイウェアを起動しても、おそらく役に立たないでしょう。