Anthropic は、自社の成功が AI を安全にする鍵であると考えています

人間が費やした過去 5 年間、世界は、高度な人工知能がいかに大量破壊を可能にし、社会を不安定にし、その他多くの深刻な害を引き起こす可能性があるかについて警告されてきました。しかし同時に、AI 機能を進化させる最も強力な力の 1 つにもなりました。同社は現在、最先端の AI モデルのトップ開発および販売会社の 1 つであり、米軍などの顧客を魅了しています。最近その価値は約1兆ドルと推定されています。

一見すると、Anthropic の強いメッセージとその行動は根本的に矛盾しているように見えます。

しかし、社内の多くの人は矛盾を感じていません。その理由を理解するには、まず Anthropic が 2 つの主要な前提に基づいて動作していることを理解する必要があります。 1 つ目は、人工知能は人類史上最も変革的なテクノロジーであり、その登場は避けられないということです。唯一の本当の問題は、それが破壊につながるのか、それとも異常な繁栄につながるのかということです。

2つ目は、匿名を条件に『WIRED』に語った数名の元従業員によると、Anthropic社はAI競争に先んじていれば世界はより良くなると信じているということだ。関係者のうち2人によると、社内では、企業のリーダーや従業員は自分たちを「善人」、つまりAIテクノロジーの責任ある管理者という意味で呼ぶことが多いという。同社は、資本、コンピューティング、研究人材、政治的影響力のいずれの形であっても、権力の蓄積をそれ自体が目的ではなく、「革新的な AI を通じて世界が安全に変革することを保証する」という使命を果たすための代償として捉えています。

ジョージタウンのセキュリティおよび新興テクノロジーセンターのエグゼクティブディレクターであり、元 OpenAI 取締役会のメンバーでもあるヘレントナー氏は、Anthropic の世界観を例え話で説明しています。彼女は強力な AI を、魔法の宝物や危険なモンスターがいっぱいの森に例えています。近くの村人たちは宝物欲しさにみんな逃げ出しています。同社の声明によると、Anthropic は、モンスターを飼いならすことに多額の投資をしながら、誰よりも自然の奥地へ冒険に出たいと考えている、つまり、AI の破壊的なリスクを制御しながら AI の恩恵を享受したいと考えている。

「Anthropic の特徴は、『とにかく人々は森に入っていくので、私たちが最初にやらなければならない』ということです。それが彼らの戦略であることは明らかです。最先端の AI システムを構築して、最先端の AI システムがどのようなものなのか、どのようなリスクが伴うのか、適切な安全策を推進できるテーブルで真剣に議論できるプレーヤーになるのです」とトナー氏は私に語ります。「彼らはそれについて非常に率直です。あまりにも奇妙な戦略なので、人々はそれを聞くのが難しいです。」

Anthropic CEO のダリオ・アモデイ氏は、同社のキャリアページに掲載された共同創業者との会話の中で、このアプローチについて明確に説明しました。「本当に競争力を持ち、いくつかの点で本当に業界をリードし、それでも物事を安全に管理する方法を見つけなければなりません」と彼は言います。「それができれば、あなたが及ぼす引力は途方もないものになるでしょう。」

Anthropic は、革新的な AI を世界に安全にもたらす会社のリーダーシップ、特に CEO のサムアルトマンの能力に自信を失い、離反した元 OpenAI 従業員のグループによって 2021 年に設立されました。その精神は今でも会社を形づくっています。私が話を聞いた元従業員のうち 2 人は、Anthropic の幹部は社内での議論で、Altman と OpenAI、そして程度は低いものの Meta とイーロン・マスクの XAI について、Anthropic の責任感を定義するのに役立つ注意深い例としてよく説明すると述べました。

多くの点で、Anthropic は他のシリコンバレーの企業とまったく同じです。多くのスタートアップ企業は、破壊しようとしている業界の古くて強力なゴリアテと戦うダビデであることを宣伝しています。 Google、Facebook、Apple はすべて理想主義的な原則に基づいていましたが、その後、より裕福になり、より大きくなり、影響力が大きくなるにつれて、その理念は汚されるか、完全に放棄されました。