金曜日に同社のウェブサイトに掲載された声明によると、Anthropicは、非常に制限的な米国政府の命令に応じて、同社の最も貴重なFrontier AIモデル2つを「突然無効にする」ことを余儀なくされたという。 「これは誤解であると認識しており、できるだけ早くアクセスを回復できるよう取り組んでいる」と声明で述べた。 Anthropic によれば、問題の政府の措置は、外国人が米国内外でこのモデルを使用できないことを明記した「輸出規制指令」であり、不特定の国家安全保障上の懸念が動機となっているという。 しかし、国家安全保障への懸念、その他の安全性やセキュリティへの懸念がこれらのモデルの展開の中心となっており、そのことがこのような事件を予見可能にさせたと考えられる。 Anthropic は 4 月初旬、Cloud Mythos プレビュー モデルを一般公開する代わりに、モデルの作成をフロンティア AI モデルの直接的な危険性についての意識を高めるキャンペーンに変えました。 同社は、このモデルが一般公開されない理由を説明するシステムカードを公開し、不正行為や制限されたシステムから制御不能になる能力などの恐ろしい機能について詳しく説明した。また、先進兵器の開発を支援する能力もあったと伝えられている。たとえば、System Card は、これを「破壊的な生物兵器の開発に関連する重要なクロスドメイン合成が可能」であると説明しています。 同時に同社は、限られたパートナーおよび組織のグループがモデルをサンプルして、サイバーセキュリティの世界にどのような新たな恐怖をもたらすかを確認できるプログラムである Project…
Read More
