意見 | Anthropicとの戦いは新たな種類の争いの始まりです

トランプ政権はここ一週間、一つの戦争を終わらせ、別の戦争を激化させることに努めてきた。最初の戦争であるイラン戦争は、時代の終結のように感じられます。米国が近い将来、中東で政権交代を強制するために再び戦争を起こす可能性は低いと思われる。 Anthropic の最先端の人工知能モデルをめぐって戦われた第 2 の戦争は、新しい種類の紛争の始まりであり、AI が支配する世界を真に支配するのは誰かを決定するために民間権力と国家政府が苦戦しています。

人間の紛争の性質は、詳細に議論がある場合でも、すぐに要約することができます。 2か月前、同社はさまざまなセキュリティ上の懸念を理由に（そしてモデルの革新的な力を宣伝して）、最新モデルであるMythosの一般公開を拒否した。米国政府と一部の企業関係者に Mythos をプレビューした後、Anthropic は、異なるセキュリティガードレールを備えたモデルのバージョンである Fable をリリースしました。人類投資家であり顧客でもあるアマゾンは、こうしたガードレールの一部を回避する方法を見つけた。これはホワイトハウスに報告され、アンスロピック社の対応は満足のいくものではないと判断され、政権は輸出管理権限を利用して、米国国内および米国外の外国人によるFableの使用を制限した。アンスロピック社は、この規則を新しいAIモデルを閉鎖するための要件とみなした。

それが私たちが今いるところであり、企業と行政がファブルを復活させる方法について交渉している一方で、報道機関への継続的なリークは一方的に不合理、不注意、またはイデオロギー的でテクノロジーについての無知であると塗り替えています。

これは皮肉に満ちた闘いだ。ホワイトハウスはAIに対する自由市場アプローチを支持していると考えており、現在、米国の大手AI企業に対して強権的な規制手段を2度使用している。（最初のケースでは、今年初め、国防総省は当初、そのモデルの戦時使用をめぐる論争を理由に、アンスロピックをすべての政府サプライチェーンから排除しようとした。）一方、アンスロピックは、自らを安全保障問題を最も意識し、民主的な監視に熱心なAI企業であると考えているが、トランプ政権のあらゆる動きに対して、同社は「いいえ、そうではない」と叫ぶようになった。彼！」

実際、戦争はしばしばこのようなものであり、さまざまな偽善や文化的な衝突、誤解によって紛争が煽られ、リスクが適切に評価されます。しかし、例えば、トランプ政権のリベラルなテクノロジー関係者は、具体的なことを超えて、Anthropicを運営する事実上慈善活動的なテクノロジー関係者に不信感を抱いている。親切私たちがここで見ている紛争は、AI モデルの軌道によって過剰に決定されています。ここには潜在的な力が多すぎるため、誰が実際に統治するかをめぐって継続的に激化する紛争は存在しません。

『ウォー・オン・ファブル』は、この紛争が取られるであろう 2 つの大まかな形態を予告します。 1つ目は官民の対立であり、政府は革新的な力を浪費することなくAI巨人に対して有意義な拒否権を維持できる規制上のスイートスポットを模索する一方で、AI企業は自社のモデルに対するコントロールと、政府によるイノベーションの利用方法に対する影響力を維持しようとしている。

名ばかりの国有化につながる道もあれば、一種の事実上の企業による政府乗っ取り、あるいは少なくとも大きすぎて潰せない共生につながる道もある。そして、この道は、社長とAI幹部の間の対立だけでなく、資本主義においてこれまで見たことのない程度にAIの状況が勝者総取りになるのではないかという懸念の中で、ますます残忍な企業対企業の行動につながる可能性がある。（私は、なぜアマゾンがアンスロピック社の最愛のビジネスパートナーに一銭も投じるのかと言っているのではありません。私が言いたいのは、AI企業が現在のパートナーを奴隷制や無関係性で脅す可能性のある軌道に乗る可能性があると言っているだけです。）

そして、米国の国境内でAIの力をコントロールするための闘争に加えて、世界の力を最大化し（おそらく本当のプレーヤーは米国と中国だけ）、主権を維持する（他の誰もがある程度の独立性を維持するために苦労する可能性が高い）ための地政学的な闘争もあります。ファブルを閉鎖するための輸出規制の利用は、おそらく中国が同モデルの脱獄バージョンにアクセスすることに対する米国の懸念を反映しているが、同時に世界各国への警告でもあった。もし米国で作成され規制されているAIモデルが経済に導入されることになったら、米国政府がオンオフのスイッチを制御することになるだろう。

これが何を意味するのかについての 1 つの可能性は、ヨーロッパの AI 研究者と投資家によって書かれた未来的なシナリオである「ヨーロッパ 2031」で概説されています。このシナリオでは、自由に使える十分に強力な AI モデルがないため、EU は米国または中国への政治的および経済的従属を選択します。

これは非常に憂慮すべきことかもしれません。通常の貿易ルールと比較優位は引き続き適用される可能性があり、欧州は他の形式の技術的専門知識を通じて地政学的な影響力を維持する可能性があり、オープンソースモデルは（高速ループでフロンティア AI を構築する独自のフロンティア AI によって放置されるのではなく）競争力を維持できる可能性があります。

しかし、少なくとも、アメリカと中国のAIの優位性は、主権、依存、強制という新たな問題を生み出すことになるだろうし、中大国の経済が特定のモデルやコンピューティングパワーへのアクセスへの依存度を高めるにつれ、中大国に重くのしかかることになるだろう。

最後に、多くの AI 予測者の観点から、この将来の紛争のスケッチは楽観的なシナリオであることに注意しなければなりません。なぜなら、人間の主体と人間の組織 (国民国家、帝国、役人、大統領) が依然として支配をめぐって戦っていることを前提としているからです。これらの人類の戦争は暗い風景の影で戦われることになる。そこで重要な戦争は私たち自身の創造物とのものであり、賭けは人類、国防総省、北京のどれが最も大きな力を持つかではなく、人間が何らかの影響力を持つかどうかである。