この記事のポイント
- AIエージェントは、回答するだけでなくファイルの作成・編集やコマンドの実行まで行います。そのため「どこで人が確認するか」を先に決める必要があります。
- 任せる前に、目的・入力・完了条件・確認する場所・止める条件の5つを決めておきます。
- 確認する場所は、失敗したときの影響の大きさと、元に戻せるかどうかで決めます。社外への送信・公開・削除は、必ず人が確認します。
- Claude Codeには、編集せずに計画だけを立てさせる計画モード、操作ごとに許可・確認・禁止を決める権限ルール、決まった操作を必ず止めるフックといった、確認を仕組みにする機能があります。
なぜAIエージェントには「確認設計」が必要なのか
チャット型の生成AIは、答えを返すところまでが仕事です。その答えを使うかどうかは、人が読んで決めます。一方、Claude CodeのようなAIエージェントは、自分のパソコンやフォルダーの中で、ファイルを作ったり書き換えたり、コマンドを実行したりします。成果物がそのまま残るため便利な反面、確認しないまま進むと、意図しない変更も残ってしまいます。
そこで必要になるのが「確認設計」です。AIにどこまで任せ、どこで人が確認し、どんなときに止めるかを、作業を始める前に決めておく考え方です。AIの性能に期待するのではなく、確認する場所を仕組みとして用意しておくことで、安心して仕事を任せられるようになります。
任せる前に決める5つのこと
- 目的：この作業で何を達成したいのか
- 入力：AIに渡す資料・データ・ルール（渡してはいけない情報も含めて決める）
- 完了条件：どうなったら終わりとするか（例：「表記ゆれが0件」「指定の形式で1ファイルにまとまっている」）
- 確認する場所：どの段階で人が見て、次に進めてよいかを判断するか
- 止める条件：どんなときは作業を止めて人に戻すか（例：想定外のエラー、対象外のファイルに触れそうなとき）
この5つが決まっていないと、AIは曖昧な指示を自分なりに解釈して進めてしまいます。逆に決まっていれば、途中の細かい指示を減らしても、結果を確かめやすくなります。
人が確認する場所の決め方
すべての操作を人が確認していては、AIに任せる意味がありません。確認する場所は、失敗したときの影響の大きさと、元に戻せるかどうかで決めます。
- 任せてよい：資料を読む・検索する・要約するなど、何も書き換えない作業
- 結果をまとめて確認する：作業用フォルダーの中でのファイル作成・編集など、失敗しても元に戻せる作業
- 1回ごとに人が確認する：本番のデータや共有フォルダーへの書き込み、他のツールやサービスへの接続
- 必ず人が実行する：社外へのメール送信、Webへの公開、データの削除など、取り消しがきかない作業
同じ作業でも、会社によって影響の大きさは変わります。「この操作を間違えたら、誰がどれだけ困るか」を基準に、自社の線引きを決めていきましょう。
Claude Codeで確認を仕組みにする方法
計画モードで、実行の前に計画を確認する
Claude Codeの計画モード（Plan mode）では、AIはファイルを読んで調べることはできますが、ファイルを編集しません。まず計画だけを立てさせ、人がその内容を確認してから実行に移ることで、「思っていたのと違う作業」を始める前に止められます。
権限ルールで、操作ごとに許可・確認・禁止を決める
Claude Codeでは、コマンドの実行やファイルの編集といった操作ごとに、「許可（allow）」「確認（ask）」「禁止（deny）」のルールを設定できます。ルールは禁止・確認・許可の順に判定され、禁止に当てはまる操作は、許可のルールがあっても実行されません。前の章で決めた線引きを、そのままルールとして書いておくことができます。
フックで、決まった操作を必ず止める
フック（hooks）は、Claude Codeが操作をする直前や直後に、決めておいた処理を必ず実行する仕組みです。AIの判断に任せるのではなく、毎回同じように動きます。たとえば「重要な設定ファイルは編集させない」「特定のコマンドは実行させない」といったルールを、操作の前に止める形で組み込めます。
作業の前提を文書にしておく
Claude Codeは、CLAUDE.mdなどのファイルに書いた作業のルールや前提を読み込んで作業します。毎回口頭で説明するのではなく、常に守ってほしいルール・今回の作業の情報・渡さない情報を分けて文書にしておくと、確認するときの基準にもなります。
なお、Claude Codeには確認をすべて省略するモードもありますが、公式ドキュメントでは、コンテナなど影響が外に及ばない隔離された環境でのみ使うよう案内されています。業務で使う場合は、確認を省略するのではなく、確認する場所を絞り込む方向で設計しましょう。
はじめの一歩
- 練習用のフォルダーを作り、ダミーのデータを入れる（本番のデータや機密情報は入れない）
- 失敗しても困らない小さな作業を1つ選び、目的・完了条件・確認する場所を書き出す
- 計画モードで計画を立てさせ、内容を確認してから実行する
- 結果を確認し、確認した内容と気づいたことを記録する
- 繰り返し行う作業になったら、権限ルールやフックで確認を仕組みにする
DATAREINの研修で学べること
DATAREINの「業務効率化AIエージェント上級コース（Claude Code）」では、2時間×6日・計12時間で、小さな作業をClaude Codeで完了させるところから始め、作業の前提を文書にまとめる方法、スキルとフックで作業を再現可能・安全にする方法、役割分担と確認を含む作業の流れ、必要最小限の権限でのツール・データとの接続までを、実際に手を動かしながら学びます。研修の後は、受講状況をもとに独自のAIツールを1つ開発します。