結論から書きます。採用の書類選考に AI を使うなら、「不合格にする判断」だけは人が持ってください。AI に任せてよいのは、記載内容の要約、条件に合う項目の抽出、重複応募の検出といった「整理」の作業までです。そのうえで、人の確認は入口（AI に何を見せるか）・出口（不合格の最終判断）・定期点検（通過率の偏りの確認）の 3 箇所に置く。これが、中小企業が無理なく回せる最小構成です。
採用は、ミスの影響が応募者個人の人生に及び、かつ外から検証されにくい業務です。だからこそ「便利そうだから入れる」のではなく、どこで人が止めるかを先に決めてから入れる必要があります。以下、偏りがどこから入るのか、人の確認をどう設計するのか、発注時に何を取り決めるのかを順に整理します。
なぜ「落とす判断」を AI に渡してはいけないのか？
理由は 3 つあります。
1 つ目は、誤りが見つからないことです。通した候補者が期待外れだったときは面接で気づけますが、落とした候補者が本当は適任だったかどうかは、誰にも分かりません。間違いが表面化しない処理を自動化すると、精度が下がっても気づかないまま運用が続きます。
2 つ目は、説明ができなくなることです。応募者や、採用を委託している側から「なぜ選考を通らなかったのか」と問われたとき、「AI のスコアが基準に届かなかった」は説明になりません。生成 AI（大規模言語モデル）の出力は、同じ入力でも表現が揺れることがあり、判断理由を後から再現しづらい性質があります。
3 つ目は、法令・指針との整合です。日本では、職業安定法および同法に基づく指針が、求職者の個人情報を業務の目的の範囲内で収集・保管・使用するよう求めています。また厚生労働省は「公正な採用選考」の考え方として、本人に責任のない事項（本籍・出生地、家族の職業など）や、本来自由であるべき事項（思想・信条、支持政党など）を採用選考で把握しないよう示しています。AI に応募書類をそのまま丸ごと読ませると、こうした情報まで判断材料に混ざる可能性があります。
海外では、EU の AI 規則（EU AI Act）が採用・人事に関わる用途を高リスクの区分として扱い、米国ニューヨーク市では自動雇用判断ツールに対する第三者監査と通知を求める条例が施行されています。日本国内に直接適用される規制ではありませんが、海外拠点や外国籍応募者を抱える企業は、取引先から同等の説明を求められる場面が出てきます。
偏りはどこから入る？ — 3 つの発生源
「AI が差別する」と聞くと、モデルそのものに原因があるように感じますが、中小企業の現場で問題になるのは、多くの場合もっと手前です。
| 発生源 | 何が起きるか | 先に打てる手 |
|---|---|---|
| 入力（渡す情報） | 氏名・性別・年齢・顔写真・住所などが判断に影響する | 評価に不要な項目を AI に渡す前に除く |
| 指示（評価の基準） | 「優秀そうな人」のような曖昧な指示で、学習データ由来の一般的な傾向が反映される | 職務要件を項目化し、該当の有無を答えさせる |
| 運用（人の使い方） | AI のスコアを見た後だと、人の判断がその順序に引きずられる | 書類本文を先に読み、AI の整理結果は後から参照する |
特に 3 つ目は見落とされがちです。最終判断を人がしていても、先に AI の順位を見ていれば、実質的に AI が決めたのと変わりません。「人が確認している」という言葉だけでは、偏りは止まらないということです。
入力の絞り込みについては、応募書類から評価に不要な記載を外してから渡す仕組みが要ります。考え方は AIに渡せない入力を止める手順 — 判定・遮断・案内の設計 で整理した内容がそのまま使えます。
人の確認はどこに入れる？ — 入口・出口・点検
入口：AI に見せる範囲を決める
応募書類をそのまま渡さず、評価に使う項目だけを抜き出して渡します。たとえば次のような場面です。経理職の募集で、AI に渡すのは「職務経歴の記述」「保有資格」「使用経験のあるソフト」の 3 項目だけとし、氏名・性別・生年月日・顔写真・住所は渡さない。そのうえで AI には「募集要項の各要件について、記載があるか・無いか・判断できないかを答える」とだけ指示します。点数や順位は出させません。
出口：不合格は必ず人が決める
AI の出力は「要件への該当状況の一覧」までにとどめ、通す・落とすの判断は担当者が書類本文を読んで行います。ここで有効なのが、人に戻す条件をあらかじめ書き出しておくことです。AI が「判断できない」と答えた項目がある、職歴に空白期間の説明がある、記載が募集職種と部分的にしか一致しない。こうしたケースは自動処理の対象から外し、必ず人が読む。条件の立て方は 問い合わせAIの振り分けは「人に戻す条件」から決める と同じ発想です。
点検：通過率の分布を定期的に見る
月次または採用期ごとに、応募者全体と書類通過者の構成を比べます。性別、年齢層、学歴、居住地域といった区分で、通過率に目立った差が出ていないかを見るだけでも、異常の早期発見になります。差が出た場合に即座に「差別だ」と結論づける必要はありませんが、なぜその差が出たかを説明できるかは確認してください。説明できない差が続くなら、指示文または入力項目を見直します。
なお、この点検を続けるには、過去の応募データで AI の出力が妥当だったかを定期的に測る仕組みがあると安定します。考え方は AI の「良くなった気がする」を卒業する — 評価データセットの作り方と運用 を参照してください。
応募者に何を説明できるようにしておくか
選考過程で AI を使う場合、次の 3 点は社内で言語化しておくことをおすすめします。
- 使用範囲：AI を書類の整理・要約に使っているのか、合否判断そのものに使っているのか
- 渡す情報：応募書類のどの項目を AI に入力し、どの項目は入力していないか
- 保存と削除：入力したデータがどこに保存され、いつ削除されるか。外部のクラウド型 AI サービスを使う場合、その事業者がデータを学習に再利用しない契約になっているか
個人情報の保護に関する法律（個人情報保護法）では、個人データを第三者に提供する場合や、外国にある第三者に提供する場合の取り扱いが定められています。応募書類を外部の AI サービスに送る行為がこれに該当するかは、契約形態（委託か、提供か）やサービスの提供元の所在によって変わります。自社だけで判断せず、利用するサービスの契約条件を確認し、不明点は専門家に相談してください。
発注前に決めておく仕様は？
外部に開発を依頼する場合、見積りを取る前に次の項目を仕様として書き出しておくと、後からの手戻りが減ります。
| 決めること | 決め方の目安 |
|---|---|
| AI の出力形式 | スコアや順位ではなく、要件ごとの該当・非該当・判断不能の 3 値 |
| 入力項目 | 渡す項目をホワイトリスト（許可する項目の一覧）で指定する |
| ログの保存 | いつ・誰が・どの書類について・どの出力を得たかを残す。保存期間も決める |
| 人の介在記録 | 不合格とした担当者名と日時を記録に残す |
| 点検用の集計 | 応募者と通過者の属性別構成を出力できるようにする |
| 停止手順 | 不具合時に AI を外して従来の人手運用に戻す手順を文書化する |
「AI で書類選考を自動化します」という提案を受けたときは、上の表の各行について、どう実装するかを具体的に説明してもらってください。説明が曖昧な場合、運用開始後に説明責任を果たせない構成になっている可能性があります。
まとめ
採用の書類選考における AI は、判断を代行させる道具ではなく、読む負担を減らす道具として設計するのが現実的です。整理のとおりに要点を挙げます。
- AI に任せるのは要約・抽出・整理まで。不合格の判断は人が持つ
- 偏りは、入力項目・指示の曖昧さ・AI 出力を先に見る順序から入る
- 人の確認は、入口（渡す範囲）・出口（最終判断）・点検（通過率の分布）の 3 箇所に置く
- 使用範囲、入力項目、データの保存と削除は、聞かれたら答えられる形で文書にしておく
- 発注時は、出力形式・ログ・停止手順まで仕様として決めてから見積りを取る
導入効果についても、過度な期待は置かないほうがよいと考えます。書類を読む時間は減る可能性がありますが、点検と記録の工数は新たに発生します。差し引きでどれだけ軽くなるかは、応募件数と職種の数によって大きく変わるため、まずは一職種・一採用期に限定して試し、実測したうえで広げる範囲を決めるのが堅実です。