トランプ政権の 最先端の AI モデルをめぐる Anthropic との意見の相違は急速に拡大しているようです。 トランプ当局者らはインナーループに対し、アンスロピック・クラウドがジェイルブレイク（信号を使用してモデルのセキュリティ対策を迂回する方法）への懸念から先週輸出規制によりオフラインにしたAIモデル「フェイブル5」を再リリースしたい場合、同社は実際に政府が主張する脆弱性に対処する措置を講じる必要があると語った。 アントロピック氏は数日前から、政権の懸念は誇張されており、脱獄の影響は最小限だと主張してきた。同政府は月曜日の技術会議で商務省と国家サイバー局長ショーン・ケアンクロス氏のオフィスに対してこの立場を繰り返し述べた。 しかし当局者らは、ユーザーがサイバーセキュリティ、化学、生物学に関連するミトスモデルの機能にアクセスするのを防ぐために設置されているフェイブル5のガードレールを無効にする方法があると国家安全保障局が結論づけたため、ジェイルブレイクが重要かどうかについて議論していると述べている。 議論に詳しい関係者３人によると、現段階で政権は基本的に、この状況は人為的に解決すべき問題だとみなしているという。 商務省のAI標準・イノベーションセンターも国家安全保障局も、市場に出回っているすべてのモデルについて可能な限りのジェイルブレイクを追求するだけの人員や帯域幅を持っていない、と関係者は述べた。 その結果、Anthropic は Fable 5 だけでなくすべての Frontier AI モデルを積極的にテストして潜在的なジェイルブレイクを検出し、政府に報告する必要があると政権は考えています。 しかし、より基本的なレベルでは、Anthropic…
Read More
