これは、国家安全保障上の懸念を理由とする政府の指令への遵守を確保するためです。
Anthroic は、6 月 12 日金曜日に政府から受け取った命令を遵守するために、すべての顧客の Fable 5 と Mythos 5 へのアクセスを無効にしました。他のすべてのモデルとクラウド チャットボットは影響を受けません。同社は発表の中で、米国政府が国家安全保障上の懸念を理由に、米国内外を問わず、またAnthropicの従業員であっても、すべての外国人に対する同社の新しく発売されたAIモデルへのアクセスを一時停止することを望んでいると述べた。
米国政府はこうした懸念を明らかにしていないが、Anthropic 社は、それは政府が Fable 5 を脱獄する方法を聞いたためであると考えている。同社は 6 月 9 日に Fable AI モデルを発表したばかりで、これは Mythos の機能の多くを一般に公開するように設計されている。思い出してください。Mythos は、Project Glasswing パートナーのみが利用できる最先端のサイバーセキュリティ モデルです。 Fable の機能は、Anthropic が発売した以前のモデルを「上回ります」。それは負けた ポケモン ファイアレッド たとえば、同社のテストでは、クラウドが勝つことはできませんでしたが、 ポケモン赤その元になったオリジナルのゲーム。
アンスロピックは、ファブルがそのポストに安全に留まるようにするために講じた措置を列挙した。同社は「サイバーセキュリティー関連のタスクでFableが悪用される可能性を減らすため、強力なセキュリティー対策を確立した」とし、「セキュリティー対策が非常に強力であるため、多くのユーザーからその対策が広すぎるとの苦情が寄せられている」と述べた。同社はまた、どのプロバイダーもジェイルブレイクの試みに対する完全な耐性を保証することは不可能であり、各モデルはそのモデル専用に作成されたジェイルブレイクに対して脆弱であるとも指摘しました。防衛戦略について同社は、「我々は、脱獄を（非汎用的な脱獄の場合には）狭い範囲にするか、（普遍的な脱獄の場合には）非常に高価にすることを目指し、これと集中的な監視を組み合わせて、成功した攻撃を迅速に検出して遮断することを目指した」と述べた。
政府は明らかに、匿名の団体が当局と共有した、潜在的に限定的で普遍的ではない脱獄について、同社に口頭証言を行った。 Anthropic は今後 24 時間以内に詳細を共有すると約束したが、ジェイルブレイクの可能性が商用モデルをリコールする理由になるべきであることに同意しないことを明らかにした。
「私たちが公に述べてきたように、政府は透明、公平、明確で技術的事実に基づいた立法プロセスの一環として、危険な配備を阻止する能力を有するべきだと信じている」と、AIの監視強化の必要性について声高に警告してきたアンスロピックは書いている。 「この行動はそれらの原則に準拠していません。」
Leave a Reply