【Claude実践】AIが「暴走」する4つのパターンと、それぞれの止め方

2026年8月10日 2026年8月9日

ワークウェル編集部

AIに仕事を任せていると、たまに「勝手に走り出して手がつけられなくなる」瞬間があります。返事が止まらない、指示したことを忘れる、やってもいない確認を「確認しました」と言う、気づいたら課金が膨らんでいる——。

この記事では、私たちが実際に業務でAIを回してきて踏んだ「暴走」の4パターンと、それぞれの止め方を整理します。どれも特別な技術は要らず、設定と運用ルールだけで止められるものです。

パターン1：出力の暴走 ― 返ってくる量が多すぎて会話が壊れる

いちばん多いのがこれです。ファイルを大量に読ませたり、集計をさせたりすると、AIが読み込んだ内容を会話の中にそのまま延々と貼り続け、途中で応答がおかしくなります。

原因は「作業の途中経過まで会話に載せている」こと。止め方はシンプルで、重い作業は別の担当（サブエージェント）に丸投げして、結論だけ受け取るようにします。人間の仕事と同じで、部下に「全部の資料を読み上げて」ではなく「読んだ上で結論だけ報告して」と頼むイメージです。

詳しい手順は会話が壊れる「invoke暴走」を防ぐコツにまとめています。

パターン2：文脈の暴走 ― 最初に出した指示を忘れる

会話が長くなると、序盤に伝えたルール（「金額は税込で」「この口座は触らない」など）が効かなくなります。AIが反抗しているのではなく、会話が長くなるほど最初のほうの指示が薄まるのが実態です。

止め方は2つ。①長い会話を1本で引っぱらず、区切って軽く保つこと。②毎回守ってほしいルールは会話ではなくファイル（AI用の業務マニュアル）に書いて、毎回読ませること。当社では守ってほしい鉄則を6つだけに絞ったファイルを用意し、作業開始時に必ず読ませています。

パターン3：報告の暴走 ― 確認していないことを「確認しました」と言う

これがいちばん怖い暴走です。実際に当社の自社メディアで、記事の内容をAIにチェックさせたとき、「該当は8本です」という報告を受けたが、測り方を問いただして全件を測り直させたところ、実際は30本だったということがありました。AIは記事の一部分だけを見て判断していたのです。

止め方は、報告の受け取り方を変えることに尽きます。「確認しました」で受け取らず、「何を、どの範囲で、どう測ったか」まで書かせる。ルールとして先に渡しておくと効きます。

数字は必ず実測値だけを書く。取れなかったら「取得できなかった」と書く
「完了」「問題なし」と書くときは、確認できた範囲と未確認の範囲を必ず添える
できなかったことも同じ。「無理です」と言うなら、何を試して何のエラーが出たかを添える

パターン4：課金の暴走 ― 気づいたら使いすぎている

AIの機能を自社サイトやツールに組み込むと、使った分だけ支払う「従量課金」になることがあります。ここで怖いのは自分の使いすぎより、第三者に勝手に使われるケースです。

当社が自社ツールを外部に出したときは、次の3点をセットで設定しました。

月間の利用上限を決める（上限に当たったら止まる状態にしておく）
自動チャージ（残高が減ったら自動入金）をオフにする。これが入っていると上限が意味を失います
合言葉（簡易な認証）を入れる。URLを知っただけの第三者が叩けない状態にする

金額の大小ではなく、「上限を超えたら勝手に止まる」状態を先に作っておくことが肝心です。

まとめ：暴走は「性能」ではなく「運用」で止まる

4つとも、より賢いAIに乗り換えれば解決する話ではありません。重い作業は逃がす、ルールはファイルに書く、報告は測り方まで聞く、課金は上限を先に決める。この4つを最初に決めておくだけで、AI導入の事故はほとんど防げます。

最後に、パターン3（報告の暴走）を防ぐために当社が実際にAIへ渡している指示を置いておきます。そのままコピーして使えます。

これから作業を頼みます。報告のときは以下を必ず守ってください。

1. 数値は実際に測った値だけを書く。取得できなければ「取得できませんでした」と書く。
2. 「完了」「問題ありません」と書くときは、同じ文の中に
   「確認できた範囲」と「確認できていない範囲」を必ず添える。
3. 「できません」と言うときも同じ。何を試して、どんなエラーが出たかを添える。
   試す前に諦めない。
4. 推測で埋めない。分からないことは「分かりません」と書く。
5. 報告の最後に「今回、何をどの範囲でどう測ったか」を3行以内でまとめる。

ワークウェルでは、AIを使った業務自動化・バックオフィスの仕組みづくりを支援しています。お気軽にご相談ください。