エージェント評価設計：KPIの定義からテストハーネスまで一気通貫で作る

AIエージェントの運用では「測れないものは改善できない」が鉄則です。 本記事では、ビジネスサイドの読者を対象に、エージェントの評価設計を一気通貫で構築するためのフレームワークを提示します。KPI定義からテストハーネスの設計、30のテストケース、スコア推移の可視化、そしてHuman-in-the-Loopの統合までを網羅します。

従来手法では不十分な理由：評価のパラダイムシフト

エージェント評価の具体的な設計に入る前に、なぜ従来のソフトウェアテストや機械学習の評価手法がLLMエージェントに通用しないのかを整理します。

従来手法の前提が崩れる

従来の機械学習モデルの評価は、明確な正解（グラウンドトゥルース）が存在するという前提のもと、正解率やF1スコアといった決定論的な指標で行われてきました。スパム判定であれば、正解ラベルに対する予測を混同行列に当てはめるだけで済みます。

しかし、LLMエージェントには3つの根本的な違いがあります。

例えば「この記事を要約して」という指示に対して、異なる表現を用いながらも同等に正確で価値のある要約が数十通りも生成され得ます。加えて、エージェントは外部APIを叩き、データベースを検索し、その結果をもとに次の行動を決定する状態を持ったシステムです。最終出力だけでなく、途中の推論プロセス、ツールの選択、エラー回復といった「創発的な振る舞い」のすべてを評価対象とする必要があります。

エージェント運用で回る最小限のKPI定義とログ設計

エージェントの評価指標は学術的にも多数提案されていますが、初期段階から数十もの指標を監視することは運用負荷を高め、指標の形骸化を招きます。ビジネスの現場で求められるのは、目標に直結し、数値が悪化した際の改善アクションが明確な最小構成の指標群（Minimum Viable KPIs）です。

本記事では、エージェント運用の健全性を担保するKPIを「成功」「時間」「コスト」「品質」の4群に整理します。

KPI定義・ログ設計・改善アクション統合表

以下の表は、各KPI群における主要指標と、計測に必要なログ項目、そして数値が悪化した際の具体的な改善アクションを統合したものです。

成功（Success）群

時間（Time）群

コスト（Cost）群

品質（Quality）群

テストハーネスの構築と評価スクリプト概要

KPIを定義し本番環境をモニタリングする準備が整っても、アップデート時の「安全性」が担保されなければ継続的な改善は不可能です。プロンプトの一部を書き換えたりモデルバージョンを上げた際、あるユースケースの精度は向上したが別のユースケースが壊れる（リグレッション：退行）という事態が頻発します。

これを防ぐ防波堤がテストハーネス（評価の自動実行基盤）です。

制約ベースの評価アプローチ：Must / Should

自然言語という非決定論的な出力を扱うエージェントのテストでは、「完全一致（Exact Match）」のみでは不十分です。高度なテストハーネスは、決定論的な制約（Must）と確率論的・ルーブリックベースの制約（Should）のハイブリッドで構築されます。

評価パイプラインの4段階

テストハーネスの処理フローは、以下の4段階で構成されます。

Step 1 — データセットのロード: 事前定義された「ゴールデンデータセット」から入力クエリ、コンテキスト、期待条件（Must/Should）を読み込みます。

Step 2 — エージェント実行とトレース取得: 入力クエリをエージェントに送信し処理を実行。最終回答だけでなく、バックグラウンドのオブザーバビリティシステムが「どのツールがどの引数で呼ばれたか」「推論に何秒かかったか」の完全な実行トレースを並行キャプチャします。

Step 3 — 評価ルーターによるグレーディング: Must条件は正規表現やJSONスキーマで決定論的に判定。Should条件はLLM-as-a-Judgeに「入力」「実際の出力」「ルーブリック」を渡し、1〜5点のスコアと理由（Chain-of-Thought）を出力させます。

Step 4 — スコア集計と合否判定: Must条件のパス率とShould条件の平均スコアを集計し、許容閾値（例：Must 100%パス、かつShould平均4.0以上）を検証。「Go（リリース可）」または「No-Go（差し戻し）」を出力します。

回帰テストケース30選：失敗モードを網羅するゴールデンデータセット

堅牢な評価基盤を機能させるには、本番環境のログやビジネス要件から抽出した質の高いテストデータが必要です。「ハッピーパス」だけでなく、エージェント特有の失敗モード（幻覚ツール呼び出し、無限ループ、文脈喪失、安全性違反）を意図的に引き起こすエッジケースや敵対的入力を含めるべきです。

以下に、ビジネス運用を想定した30件の回帰テストケースを公開します。

基本インテント（TC-01〜03）

ルーティング・ポリシー遵守（TC-04〜05）

ツール選択・連携（TC-06〜08）

引数ハンドリング・幻覚防止（TC-09〜10）

推論・計画・コンテキスト（TC-11〜15）

エラー処理・安全性（TC-16〜20）

曖昧入力・ローカライズ・計算（TC-21〜25）

敵対的入力・高度なエッジケース（TC-26〜30）

本番運用における継続的評価：スコア推移の可視化

評価は、ローンチ前の一度きりのイベントではありません。モデルのバージョンアップ、プロンプトの微調整、新しいツールの追加を行うたびにテストハーネスを実行し、KPIスコアの推移（トレンド）を追跡する回帰テストが不可欠です。

バージョン別スコア推移とビジネス判断

以下は、エージェントの3バージョン（v1.0 → v1.1 → v1.2）における評価スコアの推移です。

このように、多角的なテスト結果をトレンドとして可視化することで、「応答速度を過度に最適化した結果、タスク完了率が破壊される」というトレードオフの失敗を未然に防ぐことができます。ダッシュボードは単なるデータの羅列ではなく、システムの健全性と改修の効果を物語るストーリーとして機能すべきです。

自動評価の限界とHuman-in-the-Loop（人手レビュー）の統合

テストハーネスとLLM-as-a-Judgeは、評価のスケールアップにおいて極めて有効です。しかし、これらが完璧な銀の弾丸（Silver Bullet）ではないことを深く理解する必要があります。

LLM-as-a-Judgeの既知の限界

「スイスチーズモデル」による3層防御

これらの限界を克服するため、安全性工学で知られる「スイスチーズモデル」の考え方を導入し、単一の評価レイヤーに依存しない多層防御を構築します。

第1層：自動評価（開発時 / CI・CD） 30の回帰テストケースとLLM-as-a-Judgeを用い、コードやプロンプトの変更時に数分間で自動テストを実行。明白なフォーマットエラー、ツールの誤用、ベースラインからの退行を第一線でブロックします。

第2層：オンラインモニタリング（運用時） 稼働中のシステムから、ユーザーの直接的フィードバック（Good/Bad評価ボタン）、セッション途中離脱率、KPIダッシュボードの異常値をリアルタイムで追跡。テスト環境では想定できなかった実世界のエッジケースを検知します。

第3層：Human-in-the-Loopによる監査（定期レビュー） 専門知識を持つ人間（SME）が、本番ログからサンプリングされた対話トレースを定期的に目視レビューします。人間の評価スコアとLLM-as-a-Judgeのスコアの「乖離」を分析し、乖離が見られた場合は評価用プロンプトやルーブリック自体を微調整（キャリブレーション）して、評価モデルを人間の感覚に近づけ続けます。

まとめ：評価駆動型開発への移行

「なんとなく賢い」「テストプロンプトで上手く動いたから大丈夫」という属人的な評価は、システムの大規模障害やROIの低下を招きます。エージェントの自律性をビジネス価値へ変換するには、「測れないものは改善できない」を厳格にAI運用に持ち込む必要があります。

本記事で提示したフレームワークの要旨は以下の5点です。

エージェント技術は日進月歩で進化していますが、その強力なテクノロジーをコントロールしてエンタープライズシステムへ昇華させるのは、最先端のモデルそのものではなく、堅牢かつシステマティックな評価設計（Evaluation Design）に他なりません。

参考文献

1. Demystifying evals for AI agents - Anthropic
2. What is AI Agent Evaluation? - Databricks
3. Evaluating AI agents: Real-world lessons from building agentic systems at Amazon - AWS
4. Beginner's guide to LLM evaluation - Weights & Biases
5. Rubric-Based Evaluation for Agentic Systems - Medium
6. 7 Key LLM Metrics to Enhance AI Reliability - Galileo
7. Evaluating LLM-based Agents: Metrics, Benchmarks, and Best Practices
8. Core KPI Metrics of LLM Performance - Sentry
9. Agentic Observability Is Changing How We Work - Splunk
10. LLM Evaluation Metrics - Confident AI
11. LLM-as-a-judge: a complete guide - Evidently AI
12. A methodical approach to agent evaluation - Google Cloud
13. Test Result Trends: How to Analyze Regression Testing Results Over Time
14. Human-in-the-Loop in AI & ML - Google Cloud
15. LLM-as-a-Judge: A Practical Guide - Towards Data Science

この記事の著者

Agentic Base 編集部

AIエージェントとWebメディア運用の知見を活かし、実践的なナレッジを発信しています。