一社のAIが全採用の関門になる — 採用AIの公平性・単一文化監査SaaS

どんな問題か

採用AIは急速に標準になったが、その中身を覗く装置はない。米国企業の約90%が何らかのAIふるい分けを使い、応募数が2022年の約3倍に膨らんだ今、人手で一件ずつ見るのは不可能だ。問題は、この関門が特定の集団を体系的にふるい落とすことにある。スタンフォードHAIの研究では、アジア系5.3%、黒人10.6%が採用AIで不利益を受けた。さらに恐ろしいのは構造だ。多くの企業が同じベンダーのモデルを使えば、一度落とされた応募者がそのモデルを使う全社で同じく落ちる。この「アルゴリズム単一文化」を、導入企業も応募者も見られない。

なぜ今か

規制が同時に締まる。米国はEEOCの5分の4ルールで差別的影響を測り、ニューヨーク市は自動採用ツールへの偏り監査を義務化した(Local Law 144)。EU AI法は採用AIを高リスクに分類し、適合性評価を求める。導入企業は今や「自社の採用AIは公平だ」と証明する責任を負う。スタンフォードの大規模研究が単一文化リスクを数字で突きつけたことで、その証明を外部で受けておきたい需要が生まれたばかりだ。圧力はあるのに、それを受ける監査レイヤーは空いている。

どう作るか

三つのモジュールに分ける。

第一に、差別的影響の監査。導入企業の採用AIを合格・不合格データとともに回し、人種・性別の集団ごとの合格率の差を5分の4ルールと統計検定で測る。結果は規制当局や法務がそのまま使える監査レポートとして出す。

第二に、単一文化エクスポージャーのスコア。一人の応募者が同じベンダーのモデルに何度当たるか、市場でそのベンダーがどれだけ広く使われているかを推定し、ベンダー多様性スコアに換算する。一つのモデルへの依存が偏るほど連鎖拒否のリスクが高いと、導入企業に見せる。

第三に、応募者側の透明性・異議申し立て。落ちた応募者が、自分がどの自動化ツールに評価されたかを確認し、異議を申し立てる窓口を作る。規制が求める透明性を製品で満たすと同時に、雇用主の法的露出を減らす。

flowchart LR
  V[ベンダーの採用AIモデル] --> A[差別的影響の監査]
  H[合格・不合格データ] --> A
  A --> R[監査レポート - 5分の4ルール]
  V --> M[単一文化エクスポージャー]
  M --> S[ベンダー多様性スコア]
  R --> C[応募者の透明性・異議申し立て]
  S --> C

入り口は規制が最も強い場所だ。ニューヨーク市のように偏り監査が義務の市場の雇用主を最初の顧客にし、彼らが法的に提出すべき監査を代行する。ある雇用主の監査を通せば、その雇用主が使うベンダーにも「監査通過」が販売条件として付く。需要が雇用主からベンダーへ広がる構造だ。課金は監査ごとのSaaSサブスクに、ベンダー認証プログラムを重ねる。

成功の条件

三つが生死を分ける。第一に、監査の信頼性。レポートがEEOC・裁判所・EU規制が認める方式でなければ売れない。統計手法が揺れれば法務は買わない。第二に、データアクセス。ベンダーがモデルの内部を開かなくても、入出力だけで偏りを捉えるブラックボックス監査の力が核心だ。第三に、中立性。採用AIベンダーが自前で作れば「自己採点」になり信頼されない。ベンダーにも雇用主にも属さない第三者の席が、そのまま堀になる。規制が採用AIを手放さない限り、最初に呼ばれる監査所になる。