生成AIを業務で使い始めると、わりと早い段階でこの話になります。
「これ、誰が確認するんですか」
文章の下書き。
問い合わせ返信。
FAQ案。
議事録の要約。
投稿やブログのたたき台。
AIが出してくれるものは増えます。
でも、それをそのまま外へ出していいかは別の話です。
前回、生成AIの自動化実験後は、プロンプトより業務手順を直す で、実験後は入力、出力、確認者、例外、戻し方を手順に戻すことを書きました。
今回は、その中の「確認者」に絞ります。
確認者という言葉を出すと、少し重く聞こえるかもしれません。
AIに詳しい人が必要なのでは。
法律やセキュリティに強い人が見ないと危ないのでは。
責任者が全部見ないといけないのでは。
そう思うと、小さな会社では止まります。
でも、最初の確認者は、完璧な専門家でなくていいです。
むしろ最初に必要なのは、業務の違和感に気づける人です。
「この表現は、うちのお客様には強すぎる」
「この回答は、いつもの約束と違う」
「ここは金額ではなく、先に条件確認が必要」
「これは社外に出す前に責任者へ回した方がいい」
こういう判断は、AIの仕組みに詳しい人より、日々の業務を見ている人の方が気づけることがあります。
総務省・経済産業省の AI事業者ガイドライン第1.2版 でも、AIの利用に関わる体制やリスクへの対応は継続的に見直すものとして扱われています。
IPAの AI利用者のためのセキュリティ豆知識 でも、生成AIを使う人やマネージャーが、入力情報や出力確認の基本を理解する重要性が整理されています。
また、IPAの デジタルスキル標準ver.2.0 でも、企業のDXやデータ・AI活用に必要な役割やスキルを明確にする考え方が示されています。
つまり、生成AIの確認者は「なんとなく詳しい人に頼む」ものではありません。
業務の中で育てる役割です。
生成AIの確認者は、AIの正解を当てる人ではなく、業務として出してよいかを見極める人です。
今日は、小さな会社やひとり社長が、生成AIの出力確認を担当者任せにしないために、確認者をどう選び、どう育てるかを整理します。
確認者は、AIに詳しい人だけとは限らない
生成AIの確認者を決めようとすると、まず「AIに詳しい人」を探したくなります。
もちろん、AIの仕組みやセキュリティを分かっている人がいるなら心強いです。
ただ、小さな会社では、そんな人が社内に何人もいるわけではありません。
ひとり社長や少人数のチームなら、AI担当者そのものが兼任です。
ここで「専門家がいないから確認できない」と考えると、AI活用は止まります。
でも、実務で最初に必要な確認は、AIの理論ではありません。
その出力が、業務としておかしくないか。
お客様に出してよい内容か。
社内の約束とズレていないか。
個人情報や機密情報が混ざっていないか。
確認者が見るべき最初の場所は、ここです。
たとえば問い合わせ返信の下書きなら、AIに詳しいかどうかより、次のような感覚が大事です。
- いつもの返信トーンと違いすぎないか
- 約束していないことを断言していないか
- 金額や納期を勝手に決めていないか
- お客様の不安に答えず、説明だけで終わっていないか
- 社外に出してはいけない内部事情を書いていないか
これは、普段から問い合わせ対応や営業、制作、顧客対応を見ている人が強いです。
AIの専門家でなくても、業務の勘がある人。
違和感に気づける人。
「これは一度止めた方がいい」と言える人。
その人を最初の確認者候補にします。
ここで大事なのは、確認者に完璧を求めないことです。
確認者は、AIの出力を100点にする人ではありません。
危ないまま外へ出さないための、最初の防波堤です。
防波堤って言うと急に港湾工事っぽいですが、要するに「ここで一回止める場所」です。
AI担当者が作った下書きを、業務の目で見る。
違和感があれば戻す。
判断が重ければ責任者へ回す。
この役割なら、専門家でなくても始められます。
中小企業のAI担当者は、詳しい人より業務を聞ける人から育てる でも書いたように、AI活用の最初の人材は、技術知識だけで決まりません。
業務を聞けること。
現場の言葉を拾えること。
違和感を放置しないこと。
確認者にも、同じ考え方が必要です。
最初に見るのは、正しさより「業務に出してよいか」
AIの出力確認というと、「正しいかどうか」を見たくなります。
もちろん、事実確認は必要です。
でも、実務では「正しいっぽい」だけでは足りません。
業務に出してよいか。
お客様に見せてよいか。
社内の判断材料にしてよいか。
ここを見ます。
たとえば、AIが問い合わせ返信を作ったとします。
文章としては自然。
敬語も変ではない。
誤字もない。
でも、内容を見ると「まず一度ヒアリングが必要な案件」に対して、いきなり提案内容を断定している。
この場合、文章の完成度は高くても、業務としては危ないです。
AIは、もっともらしい文章を作るのが得意です。
だからこそ、確認者は文章のきれいさに引っ張られすぎない方がいいです。
見るべきなのは、業務の次の一手です。
このまま送るのか。
一部だけ直すのか。
社内確認へ回すのか。
追加でお客様へ質問するのか。
今回は使わず、人が最初から書くのか。
確認者の仕事は、AIの文章を採点することではありません。
次に何をするかを決めることです。
ここを間違えると、確認が重くなります。
「全部の表現を直さなきゃ」
「もっと自然な文章にしなきゃ」
「AIの言い回しを全部人間っぽくしなきゃ」
そうなると、確認者が疲れます。
そして、AI活用そのものが面倒になります。
確認者が見る順番は、もっとシンプルでいいです。
まず、出してはいけないものがないか。
次に、約束や条件とズレていないか。
最後に、必要なら表現を整える。
この順番です。
文章の自然さより、先に業務の安全性。
言い回しより、先に約束。
丁寧さより、先に事実。
ここを共有しておくと、確認者は動きやすくなります。
生成AIの確認者は、校正担当ではありません。
業務判断の入口です。
確認観点は、事実・約束・表現・次の行動に分ける
確認者を育てるときに、いちばん困るのは「何を見ればいいか」が曖昧なことです。
「ちゃんと見ておいて」
これ、便利なようで危ない言葉です。
ちゃんと、とは何か。
誤字なのか。
事実なのか。
トーンなのか。
リスクなのか。
判断範囲が曖昧だと、確認者は全部を背負います。
すると、確認が遅くなります。
または、見たつもりでも大事なところが抜けます。
だから、最初は確認観点を4つに分けます。
事実。
約束。
表現。
次の行動。
この4つです。
事実は、数字、日付、サービス内容、固有名詞、条件です。
AIはそれらしい数字や言葉を混ぜることがあります。
料金、期間、対応範囲、制度名、商品名、担当者名。
ここは、元資料や公式情報に戻って見ます。
約束は、会社として言ってよいことです。
無料でできるのか。
いつまで対応できるのか。
対象外のことを受けていないか。
過去のお客様との約束と矛盾していないか。
AIの出力が丁寧でも、約束がズレていれば止めます。
表現は、言い方です。
強すぎないか。
冷たすぎないか。
曖昧すぎないか。
相手の不安に答えているか。
カタチ舎で言えば、言葉を整えるだけでなく、相手が次に動きやすいかを見ます。
最後に、次の行動です。
この出力を見た人は、何をすればいいのか。
返信するのか。
確認を依頼するのか。
資料を添付するのか。
打ち合わせへつなぐのか。
ここがないと、きれいな文章なのに業務が止まります。
確認者には、この4つを渡します。
「全部見て」ではなく、
「事実、約束、表現、次の行動を見て」
と言う。
これだけで、確認はかなり軽くなります。
チェックリストを作るなら、最初は1枚で十分です。
- 事実: 数字、日付、サービス範囲は元資料と合っているか
- 約束: 会社として言ってよい内容か
- 表現: 相手に強すぎたり、冷たすぎたりしないか
- 次の行動: この後に何をするかが分かるか
完璧なチェックリストを作ろうとすると、また時間がかかります。
まずは、この4観点で3件だけ見る。
その結果、抜けた観点があれば足す。
それくらいで始める方が、続きます。
生成AIの社内教育は、共有後の質問ログで直す でも触れたように、教育やルールは最初から完成させるより、実際の質問や迷いで直した方が育ちます。
確認観点も同じです。
使った後に、育てます。
確認者は、1週間だけ同じ出力を並べて育てる
確認者を育てると言っても、研修を大きく作る必要はありません。
最初は、1週間だけでいいです。
同じ種類のAI出力を、1日1件から3件くらい並べます。
問い合わせ返信の下書き。
FAQ案。
議事録要約。
SNS投稿案。
どれでもいいですが、最初は業務に近く、リスクが見えやすいものを選びます。
そして、確認者に見てもらいます。
見るのは、さきほどの4観点です。
事実。
約束。
表現。
次の行動。
ここで大事なのは、確認結果を残すことです。
「OK」
「一部修正」
「責任者へ確認」
「今回は使わない」
この4分類くらいで十分です。
さらに、ひと言だけ理由を残します。
「金額を断定していた」
「お客様の質問に答えていなかった」
「社内確認が必要な条件が含まれていた」
「表現が強かった」
こういう短い理由です。
この理由が、確認者育成の材料になります。
AI担当者にも役立ちます。
どこで出力がズレやすいのか。
入力情報が足りないのか。
プロンプトを直すべきなのか。
業務手順を直すべきなのか。
判断が分かれた場所はどこか。
1週間分を並べると、見えてきます。
ここで、確認者を責めないことも大事です。
「なんで見落としたんですか」
これをやると、次から誰も確認者をやりたがりません。
確認者は検問ではなく、学習の入口です。
見落としがあったなら、チェック観点が足りなかった。
判断が分かれたなら、止める条件が曖昧だった。
確認が遅れたなら、対象範囲が広すぎた。
そう見ます。
生成AIの確認者は、経験で育ちます。
ただし、経験を頭の中に置いたままだと属人化します。
だから、1週間だけ見て、判断理由を短く残す。
これが、次の手順書や社内ルールになります。
生成AIの自動化実験は、1週間のログで小さく検証する と同じで、いきなり全社展開しない。
1週間だけ、同じ型で見る。
その方が、確認者もAI担当者も育ちます。
確認者を孤立させないために、止める条件を渡す
確認者を決めたのにうまく回らない理由のひとつは、確認者を孤立させてしまうことです。
「この人が見ているから大丈夫」
これ、危ないです。
確認者は、すべての責任を背負う人ではありません。
止める条件を持っている人です。
ここを間違えると、確認者がつらくなります。
AIの出力に少し違和感がある。
でも、急ぎだから止めにくい。
責任者に聞くほどか分からない。
自分で直せばいいのか、AI担当者へ戻すのか分からない。
こうなると、確認者はだんだん判断を抱えます。
そして、疲れます。
だから、確認者には最初から「止める条件」を渡します。
たとえば、問い合わせ返信ならこうです。
- 金額、納期、契約条件をAIが断定している
- クレーム、解約、返金、法務に関わる内容がある
- 個人情報や社外秘の情報が出力に含まれている
- お客様との過去の約束を確認しないと判断できない
- 確認者が少しでも違和感を持った
このどれかに当てはまったら、確認者だけで直さない。
AI担当者か責任者へ戻す。
ここまで決めます。
「違和感」も止める条件に入れておくのがポイントです。
曖昧に聞こえるかもしれません。
でも、小さな会社の実務では、この違和感がかなり大事です。
いつものお客様なら、この言い方はしない。
この条件で進めると、後で揉めそう。
この内容は、まだ社外に出すタイミングではない。
こういう判断は、チェックリストだけでは拾えません。
だから、確認者の違和感を正式な停止理由にします。
ただし、止めたら終わりではありません。
止めた理由を1行で残します。
「金額を断定していたため責任者確認へ」
「過去契約の条件確認が必要」
「表現が強く、お客様の不安に答えていない」
この1行が、次の改善材料になります。
確認者は、責任を抱える人ではありません。
止める条件を使って、業務を安全な場所へ戻す人です。
ここまで決めると、確認者は動きやすくなります。
小さく始めるなら、問い合わせ返信の下書きからでいい
では、最初にどこから始めるか。
僕は、問い合わせ返信の下書きが分かりやすいと思っています。
理由は、業務の流れが見えやすいからです。
お客様の問い合わせがある。
AIが返信の下書きを作る。
確認者が見る。
必要なら修正する。
社外へ送る。
この流れが具体的です。
しかも、確認すべき観点も見えやすいです。
事実。
約束。
表現。
次の行動。
全部入っています。
たとえば、ホームページ制作の問い合わせなら、AIはそれっぽく丁寧な返信を作れます。
でも、確認者はそこから見ます。
このお客様は、まだ目的が整理できていないのでは。
いきなり料金説明より、先に課題を聞いた方がよいのでは。
納期を断定する前に、ページ数や素材の有無を確認した方がよいのでは。
無料相談へつなぐ文章が、押しつけっぽくなっていないか。
こういう確認です。
ここには、カタチ舎が大事にしている「想いを届くカタチにする」感覚も入ります。
AIが整えた文章を、人が業務の文脈へ戻す。
その役割を担うのが確認者です。
最初の1週間は、次の形で十分です。
- 対象: 問い合わせ返信の下書き
- 生成: AI担当者が下書きを作る
- 確認: 確認者が4観点で見る
- 記録: OK、一部修正、責任者確認、今回は使わないに分ける
- 改善: 週末に、迷った理由を3つだけ見る
これくらいなら、始められます。
大きなAI導入プロジェクトにしなくてもいい。
まずは、社外に出る文章を安全に確認する。
確認者が迷ったところを残す。
AI担当者が入力やプロンプトを直す。
必要なら業務手順を直す。
この循環ができると、生成AIは少しずつ社内運用になります。
生成AIの確認者は、最初から立派な役職にしなくていいです。
でも、役割としては明確にしておく。
誰が見るのか。
何を見るのか。
どこで止めるのか。
どこへ戻すのか。
ここが決まるだけで、AI活用はかなり現実的になります。
AIの出力を「便利だから使う」で終わらせない。
業務として出してよいかを、人が見る。
その人を、1週間の小さな確認から育てる。
これが、小さな会社にとって無理のない確認体制の作り方だと思います。
カタチ舎では、生成AIの導入や自動化を、ツール選びだけでなく、業務手順、確認者、止める条件、社内で育てる運用まで一緒に整理しています。
「AIを使い始めたけれど、誰がどこまで確認すればいいか分からない」
「担当者任せになっていて、社外に出す前のチェックが不安」
そんな状態なら、まずは今の業務と確認ポイントを一緒に棚卸しできます。
Author
村上龍平
カタチ舎代表。言葉、生成AI活用、資料・Web制作を行き来しながら、事業の考えを届く形へ整理しています。