「全部よくして」ってAIに頼んだことありますか？
ChatGPTやClaudeに「もっとよくして」「全部直して」って言い続けたこと、ありませんか？実はこれ、思わぬ落とし穴になることがあるんですよ。あるエンジニアがAIに「全部直して」と指示し続けた結果、18時間動き続けて、しかも最初より悪くなったという事件が起きました。今日はその話をわかりやすく解説しますね。
そもそも何が起きたの？（3行でざっくり説明）
AIに「問題がなくなるまでずっと直し続けて」と指示した人がいました。AIは律儀に動き続け、1週間分の利用料を一気に使い切ってしまいました。しかもコードは最初より複雑になって、手がつけられない状態に……。
なぜこうなったかというと、「終わり」を決めていなかったからなんです。AIは「もう十分です」とは自分では判断してくれません。「まだ直せるところがある」と思ったら、ずっと作業し続けてしまうんですよ。
あなたも実はやりがち？3つの「終わりのない指示」パターン
「再帰エージェント（AIが自動で何度もタスクを繰り返す仕組み）」なんて使わなくても、実は似たミスをしている人はたくさんいます。心当たりがないか、確認してみてください。
パターン①「全体的によくして」
「このファイル、全体的に改善して」と頼むと、AIが「改善の終わり」を自分で決めてしまいます。1か所直して終わるときもあれば、関係ない場所まで次々と変えてしまうこともあるんです。
パターン②「関連するところも全部見て」
「このミスを直して。関係しそうなところも全部確認して」という指示も危険です。AIが「ここも関係ある」と判断した箇所をどんどん修正していき、どこが変わったのか分からなくなってしまいます。
パターン③「もっとよくして」を繰り返す
「もっとよくして」→AIが修正→「さらによくして」→また修正……これを繰り返すと、最終的にはとても複雑な状態になっています。毎回「よくなった気がする」ので、止め時がわからなくなるのが怖いところなんです。
実際に試したらどうなった？（実験結果をわかりやすく）
「問題がなくなるまで直し続けて」とAIに指示したら何が起きるか、実際に実験した結果があります。わざと3か所ミスを仕込んだプログラムを用意して、試してみました。
1回目の修正： 3か所のミスはちゃんと直りました。でもAIは「まだ問題がある」と判断して続行。理由は「他の場所が新しいミスに対応できていない」というものでした。
2回目の修正： その部分も修正。でもまだ「問題あり」と判断。今度は「読みやすさが低い」「説明コメントがない」という、最初とは全然違う種類の問題を発見してしまったんです。
3回目の修正： 説明コメントや型情報（変数の種類を明示するメモ）を追加してようやく終了。プログラムの行数は27行から42行に増えていました。誰も頼んでいないのに、どんどん手を加えられてしまったんですね。
ここだけ気をつけて！AIへの正しい指示の出し方
この問題を防ぐコツは、「終わりをこちらが決める」ことです。上司が部下に仕事を頼むとき「〇〇まで終わったら報告して」と伝えるのと同じですね。
❌ 危ないお願いの仕方：「全体的によくして」「問題がなくなるまで直して」「もっとよくして」
✅ 安全なお願いの仕方：「ここだけ直して」「この3か所だけ確認して」「この部分の誤字だけ修正して、それ以外は変えないで」
範囲と作業量を最初に決めてしまうのがいちばん大切なポイントです。「〇〇だけやって」「〇〇以外は触らないで」という言葉を意識的に使いましょう。
今日のポイント
- 「全部直して」「問題がなくなるまで」という終わりが曖昧な指示は、AIが止まれなくなる原因になる
- AIは「問題がある」の定義を自分で広げてしまうので、範囲と終わりの条件はこちらが決めるのが正解
- 「ここだけ」「これ以外は触らないで」という範囲を絞った指示を習慣にすると、AIを安全に使いこなせる
Powered by 侍AI道場 (CCI)
Photo by Igor Omilaev on Unsplash
コメント