AIエージェントの失敗は、プロンプトでなくハーネスで直す|ハーネスエンジニアリングの要素と、症状別の切り分け表つき

プロンプト・コンテキスト・ハーネスは「指示の文面」「渡す情報」「動く環境の仕組み」という別の層で、失敗の原因がどの層かによって直す場所が変わります。

ハーネスは「道具・権限・確認・停止条件・記録」の5要素で組み立てます。エージェントの賢さに頼らず、仕組みで結果を安定させます。

この記事の症状別の切り分け表とチェックリストで、任せる前に自社のハーネスの穴を点検できます。

エージェントが思い通りに動かないとき、プロンプトを直す前に考えること

AIエージェントの失敗の多くは、指示の書き方ではなく、エージェントが動く環境の作りで直せます。

プロンプトを書き直しても結果が安定しないのは、文面が悪いからとは限りません。「どの道具を使えるか」「どこまで勝手にやってよいか」「結果を誰がどう確かめるか」といった、文面の外側が決まっていないことが原因になっている場合が少なくありません。

この記事では、失敗の原因を層に分けて切り分け、直す場所を決める考え方を、症状別の判断表と点検チェックリストまで含めて整理します。

同じ指示でも結果がぶれる、途中で止まる、勝手に進めて壊す、という3つの典型的な失敗

AIエージェントの失敗は、結果がぶれる・途中で止まる・勝手に壊すの3つの形で現れることを示す図

エージェントに実務を任せ始めると、失敗はおおむね次の3つの形で現れます。以下の例はいずれも、分かりやすさのための架空の業務です。

1. 結果がぶれる

見積書の下書きを作らせたところ、ある日は項目名が社内の表記どおりなのに、別の日は独自の言い回しになる。

同じ指示のはずなのに、出来上がりが毎回少しずつ違う、という状態です。

2. 途中で止まる

問い合わせメールの仕分けを任せたところ、100件のうち途中で処理が止まり、残りが未処理のまま放置される。

止まったことにも、どこまで終わったのかにも、すぐには気づけない、という状態です。

3. 勝手に進めて壊す

WordPressの記事の下書きを作らせたつもりが、既存の記事を上書きしてしまった。あるいは、確認なしで外部にメールを送ってしまった。

やってはいけないことを、やれてしまう状態だったために起きる失敗です。

この3つは、見た目は別の問題ですが、どれも「エージェントの外側の仕組み」で防げる点が共通しています。

「賢いモデルに替える」「指示を長くする」で直らない理由

お願いで直そうとする場合と、仕組みで直す場合を比べた図

うまくいかないとき、最初に思いつく対策は「もっと賢いモデルに替える」か「指示を細かく、長くする」ことでしょう。

どちらも効く場面はありますが、先ほどの3つの失敗の多くは、これでは直りません。

  • 賢いモデルに替えても、環境の穴は残ります。 削除できる権限を持たせたままなら、賢いモデルでも削除できる状態は変わりません。間違える確率が下がるだけで、間違えたときに止める仕組みがあるわけではありません
  • 指示を長くしても、守らせる仕組みにはなりません。 「上書きしないでください」と書いても、書いただけです。実際に上書きできない設定にするほうが確実です
  • 長すぎる指示は、かえってぶれの原因になります。 指示が増えるほど、どれを優先すべきかが曖昧になり、読み落としや解釈のずれが増えます

つまり、「お願い」で直そうとしているものの一部は、「仕組み」で直したほうが確実で安定します。

ハーネス(harness)とは何か:エージェントの外側で、動き方を支える仕組みの総称

ここで使う「ハーネス」は、もともと馬具や安全帯を指す言葉です。AIエージェントの文脈では、エージェントのモデル本体の外側にある、動かし方を支える仕組みの総称として使われる考え方を指します。

使える道具、与える権限、結果の確認手順、止める条件、記録の取り方などがこれに当たります。

言葉の使われ方は今も変わりつつあるので、厳密な定義にこだわる必要はありません。この記事では「モデルに何を書いて頼むか」ではなく「モデルがどんな環境で動くか」を設計する話、と捉えてください。

プロンプト・コンテキスト・ハーネスの違い|3つの層の比較表

失敗の原因を切り分けるには、まず3つの層の違いを押さえる必要があります。

3つの層の違いを比較する表

層何を決めるか誰が書くか変える頻度
プロンプト指示の文面依頼する人依頼のたび
コンテキスト渡す情報担当者・仕組み業務ごと
ハーネス動く環境の仕組み設計する人数か月ごと

表では短く書いたため、補足します。

  • プロンプトは、「この見積書を下書きして」のような、その場の依頼の文面です。毎回の依頼ごとに変わるのがふつうです
  • コンテキストは、エージェントに渡す資料・ルール・過去のやり取りなどの情報です。社内の表記ルールや過去の見積書の例を渡す、といったことがこれに当たります。業務ごと、あるいは情報が古くなったときに更新します
  • ハーネスは、エージェントが使える道具、持てる権限、結果の確認、止める条件、記録といった、動く環境の仕組みです。一度作ると頻繁には変えません。その分、一度の設計の影響が大きい層です

プロンプトエンジニアリング→コンテキストエンジニアリング→ハーネスエンジニアリングという考え方の広がり

AIの扱い方を巡る考え方は、「どう書いて頼むか」から「何を渡すか」、そして「どんな環境で動かすか」へと広がってきた、と捉えると整理しやすくなります。

どれかが古くなって置き換わったわけではありません。短い一問一答ならプロンプトの工夫で足り、情報量が増えればコンテキストの設計が要り、エージェントに実務を任せるなら環境の設計も要る、というように、任せる範囲が広がるほど見るべき層が増える、という関係です。

3層の関係:プロンプトはコンテキストの一部、コンテキストはハーネスが組み立てて渡すもの

3つの層は並列ではなく、入れ子の関係にあります。

  • プロンプトは、エージェントに渡される情報(コンテキスト)の一部です
  • コンテキストは、ハーネスが集めて組み立て、エージェントに渡します
  • ハーネスは、そのコンテキストの外側で、道具や権限、確認や停止の仕組みを持っています

たとえば、CLAUDE.mdのような設定ファイルや、社内ルールをまとめた資料を育てる工夫は、コンテキストの層を整える話です。

この層を育てることは大切ですが、それだけでは「勝手に消す」「止まらない」「原因が追えない」といった問題は解決しません。

本記事は、その外側にあるハーネスに重心を置きます。

ハーネスを構成する5つの要素|道具・権限・確認・停止条件・記録

ハーネスは、次の5つの要素で組み立てて考えると、穴を見つけやすくなります。

5要素の一覧表:決めること・決めないと起きる失敗

要素決めること決めないと起きる失敗
道具使えるツールの範囲余計な操作で想定外の結果
権限読む・書く・消すの範囲勝手な上書き・削除
確認出力の検証と人の承認誤りがそのまま採用される
停止条件止める基準と上限暴走・無限に続く処理
記録実行ログの残し方原因が追えず再発する

以下、要素ごとに「失敗の例→仕組みでの直し方」を見ていきます。例は架空の業務です。

道具:使えるツールを絞る

失敗の例(架空): 問い合わせメールの仕分けを任せたエージェントが、仕分けだけでなく、頼まれていない返信まで書いて送ろうとした。

使えるツールが多すぎて、できることが広すぎた。

仕組みでの直し方: 仕分けに必要なツール(メールを読む、ラベルを付ける)だけを渡し、返信を送るツールは最初から渡さない。

使えないものは、使われません。

最初の一歩: その業務に本当に必要な操作を書き出し、それ以外は外します。

権限:読むだけ・書く・消すを分け、最小権限から始める

担当者が、鍵のかかった扉の前にいるロボットを見守り、触れられる範囲を限っている場面

失敗の例(架空): WordPress記事の下書き作成を任せたエージェントが、既存の公開記事を上書きしてしまった。

下書きを作る権限と、公開記事を編集する権限が分かれていなかった。

仕組みでの直し方: 権限は「最小権限から始める」を軸にします。つまり、まず必要最小限の権限で始め、足りなければ必要なものだけ足す、という順番です。

権限は、次のように分けて考えると整理しやすくなります。

操作の種類最初の扱い広げる条件
読むだけ必要な範囲で許可範囲を広げる前に確認
下書き・新規作成専用の場所に限り許可結果の確認が回ってから
上書き・編集原則は渡さない元に戻せる仕組みがあるとき
削除・外部送信人の承認を必須にする基本は承認を外さない

削除や外部送信(メールを送る、外部サービスに書き込むなど)は、一度行うと取り消せないか、取り消しにくい操作です。

取り消せない操作は、エージェントが単独で実行できないようにし、人の承認を挟む、というのを判断基準にしてください。

また、パスワードやAPIキーのような秘密情報は、エージェントにそのまま渡さないのが原則です。必要な操作だけを実行できる形にして、鍵の中身は見せない設計にします。

秘密情報の扱いは別途ルールを決めておきます。

確認:出力を自動で検証し、人の承認を挟む地点を決める

担当者がロボットの作った書類を、虫眼鏡で点検している場面

失敗の例(架空): 見積書の下書きで、合計金額が明細の合計と合っていなかったが、そのまま取引先に送られかけた。

出来上がりを誰も確かめない流れになっていた。

仕組みでの直し方: 確認は2段階で考えます。

  • 自動で確認できるものは仕組みに任せます。たとえば「明細の合計と総額が一致している」「必須の項目が空でない」「社内で決めた表記に沿っている」といった、機械的に判定できる点です
  • 人が確認すべきものは、承認の地点を決めておきます。取引先に送る前、公開する前、削除する前などです

自動の確認で弾けるものは弾き、人の目は判断が要る部分に集中させる、という分担にすると、人の負担も増えすぎません。

停止条件:止まる基準と、止める上限を決めておく

失敗の例(架空): 問い合わせの仕分けで、同じ処理を延々と繰り返し、いつまでも終わらなかった。

止める基準がなかった。

仕組みでの直し方: 次のような条件を、あらかじめ決めておきます。

  • 同じ失敗が一定回数続いたら止める
  • 処理の回数や時間に上限を設け、超えたら止める
  • 想定外の操作(許可されていない場所への書き込みなど)を検知したら止める
  • 止まったときは、黙って終わらせずに担当者へ通知する

「うまくいかないときに止まる」ことを仕組みにしておくと、暴走や、気づかないまま放置される事態を防げます。

止まったことに気づく通知の仕組みも合わせて決めておきます。

記録:何を、いつ、なぜ行ったかを残す

担当者が長い実行記録をたどり、問題の原因を探している場面

失敗の例(架空): 下書きの内容がおかしかったが、どの資料を見て、どんな手順で作ったのか分からず、原因を追えなかった。

同じ失敗が繰り返された。

仕組みでの直し方: 実行の記録(ログ)に、次の点を残します。

  • 何の依頼を受けたか
  • どの情報を参照したか
  • どの操作を行ったか(特に書き込み・削除・送信)
  • どこで人が承認したか
  • 失敗や停止があったか、その理由

記録は、問題が起きたときに原因を切り分けるための材料です。記録がなければ、プロンプトを直すべきか、情報を直すべきか、仕組みを直すべきかの判断すらできません。

なお、記録に秘密情報や個人情報をそのまま残さない配慮も必要です。

症状別:どの層を直すかの判断表

症状から、文面や情報を直すのか、仕組みを直すのかを分ける判断の図

ここまでの整理を、実際に症状が出たときに使えるよう、症状→疑う層→最初に直すことの形にまとめます。

症状疑う層最初に直すこと
同じ指示で結果がぶれるコンテキスト渡す資料・ルールを固定する
業務の前提を勘違いするコンテキスト前提・用語の資料を渡す
依頼の意図と違う出力プロンプト目的と完成条件を明記する
勝手に上書き・削除するハーネス(権限)書く・消す権限を外す
誤りがそのまま採用されるハーネス(確認)自動検証と承認を入れる
止まらず繰り返すハーネス(停止)回数・時間の上限を決める
原因が追えないハーネス(記録)実行ログを残す

表の使い方を補足します。

  • ぶれる・勘違いする場合は、まずコンテキスト(渡す情報)を疑います。毎回違う情報が渡されていないか、前提となる資料が足りないか、を確認します。そのうえで、依頼の文面が曖昧ならプロンプトも直します
  • 依頼の意図と違う場合は、目的や「どうなれば完成か」が文面に書かれているかを見ます。ここは、プロンプトを直すのが妥当な場面です
  • 壊す・止まらない・追えない場合は、プロンプトやコンテキストを直しても根本的には防げません。権限・確認・停止条件・記録というハーネスの側で直します

つまり、プロンプトを直すのが正しい場面もあります。大切なのは、症状から「どの層の問題か」を見立ててから直す場所を決めることです。

症状が重なる場合は、影響が大きい「壊す」「止まらない」といったハーネスの問題から先に手当てすると、安全に試行錯誤を続けられます。

小さく始める手順と、任せる前の点検

小さな業務で始める3ステップ

読むだけ、下書きまで、承認つきで実行の順に任せる範囲を広げる手順の図

最初から大きな業務を任せず、次の順番で段階的に権限を広げるのが安全です。

ステップ1:読むだけの作業

資料を読んで要約する、メールを読んで分類案を出す、といった、何も書き換えない作業から始めます。

失敗しても被害がなく、エージェントの癖や、渡す情報の足りなさを安全に把握できます。

ステップ2:下書きまで

見積書や記事の下書きを、専用の場所に作らせます。既存のものには触らせません。出来上がりを人が確認し、確認の観点(合計が合っているか、表記が揃っているか)を整えていきます。

ステップ3:承認つきで実行

確認の流れが回るようになってから、送信や公開といった実行を、人の承認を挟む形で任せます。承認なしで実行させるのは、記録が残り、止める条件が働くことを確かめたあとにします。

各ステップで「問題なく回った」ことを確かめてから次へ進むことが、結果的にもっとも近道になります。

注意点とまとめ

最後に、気をつけたい点を3つ挙げます。

  • 作り込みすぎない。 5要素をすべて完璧にそろえようとすると、始める前に疲れてしまいます。小さな業務に必要な分だけを用意し、失敗から足りない要素を足していくほうが続きます
  • モデルが変わったら仕組みを見直す。 エージェントの性能は変わっていきます。以前は必要だった細かい制約や手順が、今は不要になっていることもあります。逆に、新しい使い方で新しい穴が生まれることもあります。モデルや使い方を変えたときは、ハーネスを見直しましょう
  • 文面の工夫はやめなくてよい。 プロンプトやコンテキストの工夫は引き続き有効です。仕組みで防げるものは仕組みで防ぎ、文面は意図を伝えることに集中させる、という役割分担が目安です

失敗の原因を「どの層か」で切り分け、プロンプトの書き直しを繰り返す前に仕組みの穴を探す。この順番に変えるだけで、エージェントの結果は安定しやすくなります。

最後に、任せる前の点検に使えるチェックリストを用意しました。

エージェントに任せる前のハーネス点検チェックリスト

任せる前

  • [ ] 業務に必要なツールだけを書き出し、それ以外は外した
  • [ ] 読む・書く・消す・外部に送るの権限を分けて決めた
  • [ ] 削除と外部送信は人の承認を必須にした
  • [ ] 秘密情報をエージェントに直接渡さない形にした

動かしている間

  • [ ] 出力の誤りを自動で検証する項目を決めた
  • [ ] 人が確認する地点(送る前・公開する前など)を決めた
  • [ ] 実行の記録に、参照した情報と行った操作が残る

止まったあと

  • [ ] 失敗の回数や処理の上限など、止める条件を決めた
  • [ ] 止まったときに担当者へ知らせる流れを決めた
  • [ ] 記録から、どの層の問題かを切り分けられる

▼略歴

1970年 東京都世田谷区生まれ。
少年期を豊かな自然に囲まれた栃木県日光市で過ごす。
趣味は山歩きや渓流釣り、そして中学生の頃から始めたパソコンとBASICのプログラミングでした。
部活は陸上部に所属。短距離走や砲丸投げの選手で、度々表彰されていました。
高校からギター部に入ってギターを学び、作詞・作曲をするようになりました。上京後、路上ライブをしたりしていました。

高校・専門学校にて経営・財務の分野を学ぶ。
新卒で建設・不動産業界の経理部に就職し、次の業務を経験。

  • 住宅ローンアドバイザー

パソコン販売専門チェーンにて、次の業務を経験。

  • 複数店舗のマネージャー
  • PCソフトウェアのマーチャンダイザー

家電メーカーグループ企業にて、次の業務を経験。

  • 直営店舗の運営と商品のマーチャンダイザー
  • PCのBTOビジネスや家電ホームネットワークの普及推進
  • デジタル一眼の使い方セミナーの講師
  • WEBマスターとして、ポータルサイト、イントラサイト、楽天などのeコマースサイトの制作・運営
  • 情報セキュリティマネジメント(ISMS)とナレッジマネジメントの推進
  • 銀座のツーリスト向け店舗に勤務

家電量販店にて、次の業務を経験。

  • 六本木の店舗にて店長を経験
  • 店舗開発部での営業支援(新店舗出店時のレイアウト設計や出店準備、VMDの企画・制作など)

ホテル宴会場などの常駐イベント支援やAVシステム事業を行う業界中堅企業にて、インテグレーターとして次の業務を担当。

  • 手術室・血管造影室の画像・映像配信システムの開発・設計とエンジニアリング
  • 医療向けシステムやフェリーの設備を安全にリモートメンテナンスするソリューションの開発・運用
  • メディカル部門のマネージャーを経験

同企業にて、全社の事業推進プロジェクト部門に参画し、次の業務を経験。

  • 室長と共に、ゼロからデジタルマーケティングの仕組みを立ち上げ
  • 会社のリブランディングプロジェクト

SaaS開発・販売企業にて、次の業務を経験。

  • セールスエンジニア

アプリ開発の設計や仕組みを学びました。

  • 論文 医師偏在の課題と向き合う遠隔手術支援ソリューション(CiNiiで検索)
  • 論文 手術室の生産性向上に貢献する医療映像ソリューション(CiNiiで検索)
  • 現在、企業向けにIT技術者育成セミナー(ネットワーク/企業のAI導入等)を行っています。