「AIの出力をそのまま使って、痛い目を見た」──3人に共通する体験。前編では、人事AI活用の「うまくいっている話」を中心にお聞きしました。
ですが、3人には共通する体験があります。評価コメントを部下に見抜かれた人、学生のAI製エントリーシートをAIで採点してしまった人、「AIで何でもできるんでしょ？」と上層部に真顔で聞かれた人。
後編では、人事AI活用の「ここでつまずいた」を赤裸々に語っていただきます。
※本記事に登場する方々のお名前はすべて仮名です。
この記事のポイント
カオナビ人事用語集では、人事AI活用の「失敗例」に焦点を当て、3名の実務家に座談会形式でインタビューを実施しました。評価コメントの「AIバレ」からツール選定の落とし穴まで、つまずいた経験から見えてくる「AIと人間の線引き」をお届けします。
座談会メンバー
中村さんIT企業の人事担当を経て、現在は事業部門に異動。人事時代にAIツールを片っ端から試した経験を持つ。
山田さん大手インフラ企業でかつて人事領域に携わり、現在は営業部門のマネージャー。社内のAI活用推進にも関与。
佐々木さん成長企業の人事戦略責任者。全社的なAI活用の旗振り役を務める。
「AIが書いた評価コメント、部下に見抜かれた」──出力をそのまま使った代償
──前編では「うまくいった話」が中心でした。ここからは「転んだ話」を聞かせてください。AIを使って失敗した、やらかした、という経験はありますか。
山田さん
ありますよ。評価コメントをAIに書かせたことがあるんです。マネージャーの評価面談って、メンバー1人ひとりにフィードバックを書かなきゃいけないんですけど、時間がないときに「下書きだけでも」とAIに任せたんです。出てきた文章は一見よくできていた。ロジカルで、バランスも取れていて。
佐々木さん
それは、そのまま使ったんですか。
山田さん
使ったんです。そしたら、若手社員にバレました。「これ、AIが書いたんじゃないですか」って。最近の若い人はAIの文章をよく読んでいるから、ピンとくるんですよね。文章で渡してもわかるし、口頭で伝えても「AIに言われたことそのまま読んでませんか」と。結局エンゲージメントサーベイで「マネジメント能力に疑問がある」と書かれました。
中村さん
……それはきつい。せっかく準備してAIを使ったのに、逆効果になるという。
佐々木さん
うちでも似たことが起きていて。AIに食わせて書かせると、それなりに整った資料はできるんです。でも、考えが足りなかったり、核心をごまかしているのが透けて見える。結果として、AI以前よりアウトプットが表面的になった感覚がある。営業組織でも「これお客さんに見せられないでしょ」っていうAI丸出しの提案資料が出てくるようになって。
中村さん
スカウトメールでも同じですね。AIで作ると効率はいいけど、テンプレ臭が出ると候補者の反応が落ちやすい。結局カスタマイズは手作業なんですよ。
山田さん
AIの出力って「正しいけど響かない」んですよね。部下はその違いを嗅ぎ分ける。そこが一番怖いところです。
キーワード解説
エンゲージメントサーベイ：従業員の仕事や組織に対する愛着・貢献意欲を定量的に測定するアンケート調査のこと。結果は人事施策の改善や離職防止に活用されます。
スカウトメール：企業側から求職者に直接アプローチする採用メッセージ。ダイレクトリクルーティングの中核手法のひとつです。
学生がAIでES書き、人事がAIで採点する──AI vs AIの皮肉な現実
──前編でも少し触れましたが、採用領域でのAI活用の失敗について、もう少し詳しく聞かせてください。
山田さん
前編で「エントリーシートをAIで採点する検証をした」という話をしましたけど、あの話には続きがあるんです。AIが書いたESをAIが高評価してしまうという、本末転倒が実際に起きた。面談官から「一次評価の基準がおかしくないか。送り込んだ学生と面談してのギャップがひどい」と叱られて。
佐々木さん
ESの中身を見てもしょうがないなら、「ESを書くプロセス」自体を評価対象にしないと、堂々巡りですよね。
山田さん
その通りで、結果的にESでの評価の比重を大きく下げる判断をしました。もうAI時代にESの文面を見ても、その人の実力は測れない。ただ、ESの比重を下げると今度は適性検査の比重が上がって、そうなると結局学歴が効いてくるっていう、別の歪みが出てきているんです。
中村さん
自分も書類選考でAIを使った経験があるんですけど、「AIが見抜けないAI製の文章」は確かにある。見た目はよくできているのに、面接してみると全然違う人が来る。
佐々木さん
採用のAI化って、「選考の精度を上げる」方向じゃなくて、「選考の設計そのものを変える」方向にしか解がないと思うんです。何を見ているのかを人事自身が言語化できていないと、AIに任せようがない。
中村さん
自分もまさにそこで転んだんです。書類選考の基準をかなり細かくプロンプトで設定したんですけど、本来は小さな判断要素にAIが過度に引っ張られて、人間が見るのと全然違う結果になった。
佐々木さん
選考じゃなくて「情報抽出」に切り替えた、という話ですか。
中村さん
そうです。レジュメの中身を面接官が見やすく整理する方向に振り直しました。転んでみて初めて、AIに何を任せるかが見えてきた。
キーワード解説
エントリーシート（ES）：新卒採用で学生が企業に提出する応募書類。志望動機や自己PRを記述する形式で、書類選考の主要な評価材料として使われてきました。
適性検査（SPI等）：応募者の基礎能力や性格特性を標準化されたテストで測定する手法。AI時代にES評価の信頼性が揺らぐ中、相対的に重要度が増しています。
稟議を通したツールが半年で陳腐化する──組織の導入判断の落とし穴
──ツールの選定や導入で苦労した経験はありますか。
山田さん
大企業だと、一度導入を決めたツールを簡単には変えられないんです。稟議を通して、全社展開して、研修もやって、マニュアルも作って、それが半年後に陳腐化するリスクがあっても、もう戻れない。
中村さん
個人レベルでも同じことが起きますよ。自分はあるAIサービスから半年で別のツールに切り替えたんですけど、あれは個人の判断だったからできた。組織として導入していたら、半年では絶対に動けなかったと思います。
佐々木さん
だから自分のところでは、特定のツールに依存しすぎない設計にしているんです。用途ごとにGeminiを使ったり、Notion AIを使ったり。「今一番賢いやつを使う」ためには、一つに絞らないことが前提。
山田さん
ただ、全社で情報管理の規程がある企業だと、個人で使い分けるのと組織として運用するのは全く別の話なんですよ。導入前の評価に半年、稟議に3ヶ月、研修に2ヶ月。合計で1年がかりの導入が、半年で出た新モデルで陳腐化するリスクがある。それでも組織としては「全社共通のツール」を選ばないと統制が効かない。
中村さん
しかも、プラットフォーム側が先に機能をリリースして、周辺サービスが後から追いかけるっていう構造がある。後追いになっている以上、周辺サービスに依存するとどうしても半歩遅れる。だから「正解のツールを選ぶ」じゃなくて、「乗り換えコストを最小化する設計にする」しかないのかもしれません。データのエクスポートが簡単かを導入基準に入れるとか、プロンプトのテンプレートをツール非依存で管理しておくとか、そのレベルの話ですけど。
「AIで何でもできるんでしょ？」──上層部の万能説との闘い
──AIに対する期待と現実のギャップで困った経験はありますか。
佐々木さん
社内で使っていたAIツールがセキュリティ上の理由で利用制限がかかったことがありました。今は別のツールに移行しています。それと厄介なのが、上の人が「AIって何でもできるんでしょ」と言ってくること。「デザイナーを採用したいんだけど、デザインってAIでできないんでしたっけ」と真顔で聞かれたことがあって。
山田さん
AIに何でもやらせようとして、結局手作業の方が早くなった経験は自分にもありますね。プロンプトに時間をかけるくらいなら自分で書いた方がはやいっていう場面が、正直まだ多い。上層部は「AI入れたんだからもっとできるだろう」と言うんですけど、できることとできないことの切り分けが共有できていない。
中村さん
推進する側と現場の温度差もありますよね。AI活用の勉強会を開いても、翌月も使い続けている人は片手で足りるくらい。「別にAIじゃなくてもよくない？」という声は根強くて、推進する側のエネルギーだけが削られていく感覚がある。
佐々木さん
プロンプトの工夫がどうこうという話じゃないんですよ。「これはAIに任せていい仕事か」を最初に見極めることが本質。そこを間違えると、精度を上げようとして時間をかけて、結局人がやった方がはやかったとなる。
中村さん
ただ、推進者が走り続けないと組織は動かないのも事実で。自分も勉強会を開いて誰もついてこなくて心が折れかけたことがあるんですけど、まず自分が転んで、「ここまでは使える、ここからは無理」を具体的に見せる。説教じゃなくて実例でしか温度差は埋まらないんだと思います。
「ここまでがAI、ここからが人間」──失敗を経て見えた線引き
──さまざまな失敗を聞いてきました。そうした経験を経て、今はどこに「AIと人間の線引き」を置いていますか。
山田さん
評価コメントもES採点も、転んでみてわかったのは、AIはデータの整理・下書き・選択肢の提示まで。最終判断と、人に伝える言葉を選ぶのは、まだ人間がやるべきだということ。特に評価の場面では、ロジカルに詰めすぎない方がいいこともある。上司が「俺は認めてるんだけどな」ってフォローを入れるような、あのニュアンスはAIには出せないんです。
佐々木さん
自分は逆で、「AIを使っていないアウトプットは見ない」と部下に宣言しています。AIを使うことを前提にした上で、「AIが決めた」ではなく「AIを参考に人が決めた」と言えるラインを維持する。AIを使わないことがリスクになる時代に、使うか使わないかではなく、どう使うかが問われていると感じています。
中村さん
でも現実は、新規事業はAIが進むけど、既存のオペレーションは全然進まない。今のやり方で一定の精度で回っているから、わざわざAIで組み直す動機が弱い。30代半ばを超えると新しいテクノロジーへの抵抗感が出てくる人もいますし。線引きって、個人の問題だけじゃなくて、事業特性や組織構造に規定される部分が大きいと思うんです。
佐々木さん
だからこそ、組織として段階的にスキルを底上げする仕組みが必要なんです。全員が最低限のAIリテラシーを持つ状態を作る。「使えない」を放置しないこと。
中村さん
自分の場合、異動してから見えたことがあって。人事にいた時は「業務を速くすること」に集中していたけど、事業サイドに来たらAI活用の幅が全然違った。失敗も含めて、まず触ってみないと線引きの判断もできないんですよね。
佐々木さん
触ってみないとわからない、というのは本当にその通りで。ただ、生成の先にある判断まで踏み込めている組織はまだ少ないんですよね。「うちのAI活用、テキスト生成で止まってないか」って問い直すことが入口かもしれないですね。
山田さん
そこなんです。経営層が期待していることと現場が恐れていること、噛み合ってない会社って意外と多い。そこの認識を揃えるところが、たぶん線引きの入口なんだと思います。ただ、正直なところ、揃えたつもりでまた転ぶんだろうなとも思っていますけど。
キーワード解説
AIリテラシー：AIの仕組みや限界を理解し、業務で適切に活用する能力のこと。組織全体のAIリテラシーを高めることが、効果的なAI導入の前提条件とされています。
まとめ
この座談会で語られた失敗には、共通する構造がありました。AIの出力を過信し、人間の判断を挟まなかった──その一点に、多くのつまずきが集約されています。
山田さんが直面した「AIが書いた評価コメントを部下に見抜かれた」という体験、「学生がAIでES、人事がAIで採点する」AI vs AIの皮肉、佐々木さんが闘ってきた「上層部のAI万能説」。
いずれも、AIの限界を組織として把握しないまま走った結果、起きた問題でした。
AI活用で「転ばない」ための3つの教訓
失敗を経験した3人が共通して語ったのは、「転んだことで初めて線引きが見えた」ということ。同じ轍を踏まないためのポイントを整理します。
- AIの出力をそのまま使わない：評価コメント・スカウト文・フィードバックなど、相手に届く文章は必ず人間がチェックし、自分の言葉を混ぜること。「AIっぽさ」は想像以上に伝わる
- ツール選定は「陳腐化する前提」で設計する：稟議に半年かけて導入したツールが、使い始める頃には時代遅れになっている可能性がある。小さく試して素早く判断する体制を組むこと
- 「ここまでがAI、ここからが人間」の線引きを組織で共有する：個人の裁量に委ねると、部門ごとにバラバラになる。AIを使う領域・使わない領域を明文化し、定期的に見直すこと
失敗を経て見えた線引きは、「AIを使わないことがリスクになる時代に、どう使うかを組織として決めること」でした。まず触ってみなければ、線引きの判断もできない──その覚悟が、AI活用の次のステージへの入口です。前編（「とりあえずChatGPT」から「AIで戦略を立てる」まで──人事AI活用のリアルな現在地）もあわせてお読みください。
関連記事
