一度はじかれたら全社で不採用 — 採用AIの「単一文化」という罠

何が起きたのか

スタンフォード大学の人間中心AI研究所(HAI)が、採用アルゴリズムを過去最大規模で検証した。求人170万件、応募400万件、求職者340万人を分析したところ、AI採用ツールが少数派の応募者を体系的にふるい落としていた。アジア系は5.3%、黒人は10.6%のケースでAIによる不利益を受け、白人・ヒスパニックの1%未満と対照をなす。履歴書の段階だけでも、求人の15%がアジア系を、26%が黒人を排除していた。

本当の発見は数字ではなく構造だ。研究者はこれを「アルゴリズム単一文化」と呼んだ。多くの企業が同じベンダーの採用AIを使えば、あるモデルが一度落とした応募者は、そのモデルを使うすべての企業で同じく落ちる。各社が独立に判断していれば一社で落ちても他社の見込みは残るが、同じアルゴリズムがすべての関門を守れば、その見込みはゼロに近づく。一度はじかれたら、どこでも採用されない。米国企業の約90%がすでに何らかのAIふるい分けを使い、応募数は2022年の約3倍に膨らんだ。人手では見きれないほど増えた応募をAIが捌くうちに、そのAIの偏りが市場全体の門番になった。

創業者にとっての意味

二種類の創業者が、このニュースを別々に読むべきだ。

HR・採用ツールを作るチームには、市場が開く合図だ。偏りが可視化された以上、規制と訴訟の圧力が続く。米国はEEOCの「5分の4ルール」で差別的影響を測り、ニューヨーク市は自動採用ツールへの偏り監査を義務化した(Local Law 144)。EUのAI法は採用AIを高リスクに分類する。導入企業は「自社の採用AIは公平だ」と証明する責任を負った。その証明を代行する監査レイヤー、ベンダー多様性スコア、差別的影響テストは、買い手の決まった製品になる。

採用AIを使うスタートアップには警告だ。日本でもAIによる書類選考や適性検査が新卒・中途の両方で急速に広がっている。皆と同じベンダーのツールを使えば、皆が同じく落とした母集団から採ることになり、競合が見落とした人材を取り込む機会を自ら閉ざす。日本は米国ほど規制が明確でない分、論点はレピュテーションと労使の問題として表面化しやすい。導入先の人事・法務が最初に問うのは「このモデルが特定の集団を排除していないと、どう示すのか」だ。

今できること

採用・評価にAIを使うなら、ベンダーに二つ問おう。第一に、人種・性別の集団ごとの合格率の差を出せるか。第二に、同じモデルを使う他の顧客はどれだけいるか。答えられなければ、単一文化リスクと差別リスクを同時に抱えることになる。HR製品を作るなら、機能を一つ増やす前に「集団別インパクトレポート」を製品内に組み込むことが、規制市場で先行する近道になる。