「AIって暴走しないの？」って思ったことありませんか？
職場でAIを使おうとしたとき、上司や同僚から「AIに全部任せて大丈夫なの？」って聞かれたことはないですか？うまく答えられなくて、導入の話がうやむやになってしまった…という方も多いんですよ。
実は、AIツールの中身を数字で見てみると、「全部AIに任せてるわけじゃない」ってことがよくわかるんです。今回はそのしくみを、初心者の方にもわかりやすく説明しますね。
そもそも、AIツールって何でできてるの？
AIツールって、AIが全部動かしてると思いがちですよね。でも実は、ちょっと違うんです。
イメージとしては、「優秀な部下（AI）と、その部下を管理するベテランの人間マネージャーたちが一緒に働いている職場」みたいな感じです。AIは指示された範囲の仕事だけをして、それ以外のことは人間が書いたルールでしっかり管理されているんですよ。
2026年3月に、有名なAIツール「Claude Code（クロードコード）」の設計図（ソースコード（プログラムの設計書））が偶然公開されて、研究者たちがその中身を分析しました。そこでわかったことが、とても興味深かったんです。
驚きの数字！AIが動いてる部分はたった1.6%
分析の結果、そのAIツールは全部で512,000行（ぎょう）の設計書でできていることがわかりました。行とはプログラムの文章の行数のことで、512,000行はかなりの大作です。
そのうち、実際にAI（人工知能のモデル）と会話している部分はたった8,000行。全体の1.6%だけなんですよ。
残りの98.4%は何かというと、「AIが勝手なことをしないように管理する人間が書いたルール」です。ざっくり分けるとこんな感じです。
- 🔧 ツールシステム（AIが使える道具の管理）: 約29,000行
- 🖥️ 画面表示（操作画面のしくみ）: 約25,000行
- 🔒 権限・セキュリティ管理（何をしていいかのルール）: 約20,000行
- 🤝 複数AIの連携制御: 約18,000行
- 🤖 AIモデルとの通信（実際のAI部分）: 約8,000行（1.6%）
これの何が嬉しいの？3つのポイントで説明します
① AIが勝手に動ける範囲を決められる
職場で新しいアルバイトを雇ったとき、「レジはOK、金庫はNG」みたいにルールを決めますよね。AIツールも同じで、「このファイルは読んでいい」「外部に送信してはダメ」みたいなルールをあらかじめ設定できるんです。
② 7段階の「権限モード（どこまで許可するかのレベル設定）」がある
アルバイトにも「研修中」「一人立ち」「リーダー」みたいなレベルがあるように、AIにも段階的な許可レベルがあります。用途や信頼度に合わせて、AIにできることを細かく調整できるんですよ。
③ 「AIが暴走しないか」を数字で説明できる
上司に「AIって大丈夫なの？」と聞かれたとき、「コードの98.4%は人間が書いた安全管理の仕組みです」と答えられるようになります。なんとなくの「大丈夫」より、数字で説明できると信頼してもらいやすいんですよ。
上司に説明するときはこのまま使ってください
「AIが安全かどうか」を説明するのって、難しいですよね。そんなときは、こんなふうに伝えてみてください。
「このAIツールの設計書は全部で512,000行あります。そのうち、実際にAIと通信している部分は8,000行、全体の1.6%だけです。残りの98.4%は、AIが勝手なことをしないように人間が作った安全管理の仕組みです。AIが何をしていいかは7段階で細かく設定できるので、全部AIに任せているわけではありません。」
ここだけ気をつけて
今日のポイントまとめ
- ✅ AIツールの中身の98.4%は、人間が書いた安全管理の仕組みでできている
- ✅ AIができることは7段階の権限レベルで細かく設定・制限できる
- ✅ 「AIって大丈夫？」と聞かれたら、この数字を使って説明すると説得力が上がる
「AIって怖い」「暴走しないか心配」という気持ち、すごくよくわかります。でも、こうやって中身を見てみると、かなりしっかり管理されていることがわかりますよね。まずはこの「1.6%」という数字を覚えておくだけでも、AIについての理解がぐっと深まりますよ！
Powered by 侍AI道場 (CCI)
コメント