ライブ運用中の AI エージェントには新しい基準と管理が必要

AI エージェントはますます大規模なライブ運用に移行しています。これにより、企業の課題は、組織の準備に焦点を当てた次のハードルに置き換えられます。

現実世界ではエージェントがより多くの作業を行うため、すべての企業は、仕事の割り当て方法、意思決定の管理方法、システムの制御方法、および人間の責任の所在を慎重に計画する必要があります。

オナビーティ

Kindril UK&I のデータおよび AI 副社長。

野心と準備の間のギャップを無視するのは困難になりつつあります。 Kindrill の準備レポートによると、ビジネスリーダーの 87% が AI によってキャリアパスと役割責任が再形成されることを期待していることがわかりました。しかし現時点では、従業員がAIを効果的に利用できていると回答したのは29％のみで、62％はまだAIの「実験段階」にあると回答した。

実際の運用の複雑さ

このため、エージェント AI が何を意味するのか、そして実際にエージェント AI が運用の複雑さを生み出す理由を正確に把握することが重要です。エージェントシステムは、より洗練されたフロントエンドを備えた単なる生成 AI ではありません。これらは、人間の入力を制限しながら、計画を立て、行動を起こし、タスクを調整し、複数ステップのワークフローを調整できるシステムです。

これにより彼らの能力は向上しますが、統治するのが実質的に難しくなります。テクノロジーが推論し、ツールを適用し、システム全体で調整して機能できるようになると、問題はもはや「何ができるか」だけではなく、それを使いこなすための装備が私たちにあるのかということになります。

小規模なエージェント展開は通常、限られたデータセットに依存し、比較的少数のシステムにアクセスします。もっと大きなスケールで見ると、その単純さは消えてしまいます。より多くのシステム、より多くの統合、より多くの運用バリエーション、より多くの管理の要求が圧力を加えています。 AI の拡大により、組織は長年にわたるアーキテクチャ上および組織上の負債に直面せざるを得なくなり、多くのパイロットはこの時点で勢いを失います。

これらのシステムを複雑なエンタープライズ環境で動作させたい場合は、議論を LLM の議論に絞り込むのをやめる必要があります。 LLM は重要ですが、より広範なエージェントシステムアーキテクチャにおける 1 つのコンポーネントにすぎません。実際のエンタープライズ展開は、オーケストレーション、デバイス、コンテキスト、メモリ、ワークフローロジック、ポリシー、権限、ランタイム制御、ID 管理、可観測性、人間による強化パスがすべて連携して機能することに依存します。

会話の焦点を絞りすぎると、システムが本番環境で安全かつ効果的に動作できるかどうかを決定する重要なコンポーネントを設計する危険があります。

私にとって、最も重要な実践的なポイントの 1 つは、特にミッションクリティカルな環境では、最も複雑な運用ワークフローを念頭に置いて設計する必要があることですが、大規模な導入のリスクを最小限に抑えることができるように実装をインテリジェントに順序付けする必要があるということです。

適切なスケーリング

エージェントが成長するにつれて、エージェントは 4 つの方法で企業に圧力をかけます。

1 つ目は、機密情報や非構造化情報がより広範囲で利用可能、再利用可能、および公開されるようになるため、データの緊張です。

2 つ目は、エージェントが追加されるたびに既存のプラットフォーム、インターフェイス、運用プロセスへの依存性が高まるため、統合ストレスです。

3 つ目は、相互作用する自律コンポーネントの数が増加し、複雑さと障害のシナリオが複雑になるため、運用上のストレスです。

4 つ目は体制の緊張です。静的なシステム向けに設計された観測モデルが、動的で適応的な動作に追いつくのに苦労しています。

これを適切に管理するには、いくつかの実践的なトピックに依存します。

明確な意思決定の境界線を設定します。 エージェントがどのような決定を下すことができるか、何をエスカレーションする必要があるか、そして何が人間の制御下にしっかりと残るかを確立します。

大規模なオーケストレーションを設計する: マルチエージェント環境では、ドリフト、重複、コンプライアンス違反を防ぐために、調整されたワークフロー、共有コンテキスト、および明確な制御ポイントが必要です。

最初から運用モデルに介入を組み込む。 監視制御は緊急措置とみなされるべきではありません。これは、しきい値、アラート、承認、キルスイッチ、ロールバックメカニズムを通じて組み込まれる必要があります。

指定された役割と記録システムに説明責任を割り当てます。 決定を確認したり、異議を申し立てたり、擁護したりできない場合、その決定はプレゼンテーションの準備ができていません。

これは、制御が実行時に非常に近づく必要がある場所です。政策は、政策文書やガバナンスフォーラムなどの背景に置かれているだけでは十分ではありません。ポリシーは、機械で読み取り可能、テスト可能、強制可能である必要があります。権限はコンテキストに応じて柔軟である必要があり、最初から拡張可能である必要があります。

主要な動作要件

さらに、テレメトリ、オーケストレーション、リアルタイム監視、および AIOps が現在、中核的な運用要件となっています。エージェント AI が日常のワークフローの一部になるにつれて、テレメトリは稼働時間や応答時間を超えて拡張される必要があります。組織は現在、コードによる動作、意図との整合性、ワークフローの依存関係、例外傾向、ポリシー遵守を可視化する必要があります。

テストも開発する必要があります。システムが動的で、コンテキストに敏感で、さまざまなパスを取ることができる場合、固定 AI を備えた決定論的なワークフローであるかのようにシステムをテストすることはできません。私たちは答えをテストしているだけではなく、行動をテストしています。

これにより、困難ではあるが重要なリーダーシップのバランスが生まれます。適切な制御を行わずに自主性を高めすぎると、管理できないリスクが生じます。十分な自主性を持たずにコントロールが多すぎると、価値の実現が遅れます。目標は、無制限の自由でも厳格なロックダウンでもなく、むしろ制限された自律性です。つまり、エージェントは、エスカレーションへの道筋と解釈可能性が組み込まれており、明確に施行されたポリシーと制御によって迅速に作業します。

戦略的パートナーシップも基礎となるアーキテクチャの一部になりつつあります。オーケストレーション、統合、ガバナンス、プラットフォームの相互運用性、オペレーティングモデルの再設計を必要な速度で管理できる組織はもうありません。最も効果的なパートナーシップは、結果に対する責任の共有、柔軟性、価値実現のスピードを中心に共同設計する必要があります。

同様に重要なことは、組織は調整のための時間を確保する必要があるということです。これは、設計サイクル、ガバナンスフォーラム、部門横断的なロードマッピングを通じて早期に人々を結集することを意味します。内部および外部の関係者が最初から関与する必要があります。アーキテクトはスタックを検証し、エンジニアはスケールを拡張し、リスクリーダーはコンプライアンスを確保します。

入力が早期に調整されれば、テクノロジーがどれほど進歩しても、エージェントによる取り組みが停滞する可能性は低くなります。

ビジョンに向かって一丸となって取り組む

AI エージェントの可能性は、実験だけでは明らかになりません。これは、ガバナンス、アーキテクチャ、運用モデル、自律性を企業価値に変えるために必要なリーダーシップ規律など、周囲のシステムを再設計する準備ができている組織によって実現されます。

ペースを握る組織は、大規模な価値が AI ネイティブオペレーションを実行するための構造的な準備ができているかどうかに依存することを理解しています。

最高のデータ視覚化ツールを評価しました

この記事は、の一環として作成されました TechRadar プロの視点私たちのチャンネルは、今日のテクノロジー業界で最も優秀な人材を紹介します。

ここで表明されている見解は著者の見解であり、必ずしも TechRadarPro または Future plc の見解ではありません。貢献に興味がある場合は、こちらで詳細をご覧ください。 https://www.techradar.com/pro/perspectives-how-to-submit