AIエージェント
agentic system · autonomous agent
ひとことで
AIエージェントは、単なる質問に答えるだけでなく、目標が与えられたときに使用できるツールを呼び出し、結果を読み取り、次のステップを決定し、目標が達成されるか、または上限に達するまで繰り返すことができる言語モデルです。このループがチャットボットとの違いです。
エージェントはモデルを中心に3つの要素から構成されます：tools（使用できるツール）、上位の目標（単一の行動以上の目標）、そして各結果の後に次に何をすべきかを決定するループです。
ツールは普通の関数 — データベースクエリ、HTTPリクエスト、ファイル書き込み — であり、名前、目的、引数のスキーマによってモデルに説明されます。モデル自体は何も実行せず、構造化された呼び出しを出力し、ランタイムがそれを実行し、結果がテキストとして返されます。したがってエージェントの能力は与えられたツールに依存します。
重要なのはループを制限するエンジニアリングで、ほぼ全てがこれに集中しています：
- ステップ、時間、トークンの予算を設定し、ハングしたエージェントを停止させる
- ランタイムで権限境界を設定：広く読み取り、狭く書き込み、不可逆操作には承認を必要とする
- すべての呼び出しと結果の再生可能なログを保持
- 結果の安価な検証 — コーディングエージェントが最初に機能した理由は、テストが「うまくいったか」を自動で答えるからです
エージェント特有のセキュリティ上の懸念はプロンプトインジェクション（prompt injection）です：エージェントが読むコンテンツには、エージェント向けの指示が含まれている可能性があります。防御策はより良いプロンプトではなく、権限の範囲を小さくすることです。詳細な解説はAIエージェントとは何かを参照してください。
よくある質問
- エージェントとワークフローは何が違うのですか？
- ワークフローは事前に決めた手順に従って実行されます。エージェントは実行時に観測した情報に基づいてシーケンスを決定し、柔軟性を確保しつつ予測可能性を犠牲にします。
- エージェントが期待以上に失敗する理由は何ですか？
- ステップごとのエラーは積算される。1ステップあたり95%の信頼性で、20ステップのタスクが成功するのは約1/3にすぎない。スコープを絞る方が、より大きなモデルよりもはるかに効果的だ。