一家供應商的AI卡住所有招聘 — 招聘AI公平性與單一文化稽核SaaS

問題是什麼

招聘AI很快成了標配，卻沒有任何裝置能看進它內部。約90%的美國企業如今用某種形式的AI篩選，而應徵量已是2022年的約3倍，靠人一份份看履歷已不可能。麻煩在於，這道關卡在系統性地過濾特定群體。在史丹佛HAI的研究裡，亞裔在5.3%的情形、黑人在10.6%的情形被招聘AI傷害。更可怕的是結構：當許多公司跑同一家供應商的模型，被刷一次的應徵者就會被所有用它的公司刷掉。這種’演算法單一文化’，雇主看不見，應徵者也看不見。

為什麼是現在

監管正從多個方向同時收緊。美國用EEOC的五分之四規則衡量差異性影響；紐約市對自動化雇用決策工具強制做偏見稽核(Local Law 144)；歐盟AI法案把招聘AI列為高風險並要求合規評估。雇主如今背上了’證明自家招聘AI公平’的責任。而史丹佛的大規模研究把單一文化風險用數字釘死，想為這份證明拿到外部背書的需求才剛冒出來。壓力已在，可承接這股壓力的稽核層還空著。

怎麼構建

拆成三個模組。

第一，差異性影響稽核。把雇主的招聘AI連同錄取·淘汰資料一起跑，用五分之四規則和統計檢定量出各種族·性別群體的錄取率差距。結果做成監管機構和法務能直接拿去用的稽核報告。

第二，單一文化暴露評分。估算一個應徵者會撞上同一供應商模型多少次、該供應商在市場上被用得多廣，折算成’供應商多樣性評分’。向雇主展示：對單一模型的依賴越集中，連鎖拒絕的風險越高。

第三，應徵者一側的透明度與申訴。給被刷的應徵者一個入口，去確認自己被哪個自動化工具評估，並提出異議。既用產品滿足監管要求的透明度，又縮小雇主的法律暴露。

flowchart LR
  V[供應商招聘AI模型] --> A[差異性影響稽核]
  H[錄取·淘汰資料] --> A
  A --> R[稽核報告 - 五分之四規則]
  V --> M[單一文化暴露評分]
  M --> S[供應商多樣性評分]
  R --> C[應徵者透明度·申訴]
  S --> C

切入點選在監管咬得最狠的地方。先拿下像紐約市這樣強制偏見稽核的市場裡的雇主，替他們做依法必須提交的稽核。通過一家雇主的稽核，‘已通過稽核’就會成為這家雇主所用供應商的銷售條件——需求從雇主蔓延到供應商。收費按每次稽核的SaaS訂閱，再疊一層供應商認證計畫。

成功的條件

三樣東西決定生死。第一，稽核的可信度。報告必須按EEOC、法院和歐盟監管認可的方式來做，否則賣不動——統計方法一晃，法務就不買。第二，資料接取。核心能力是黑箱稽核：哪怕供應商不開放模型內部，也能僅憑輸入輸出抓出偏見。第三，中立性。招聘AI供應商若自己來做，就是’自己給自己打分’，沒人信。一個既不屬於供應商、也不屬於雇主的第三方位置，本身就是護城河。只要監管不鬆開招聘AI，你就是第一個被叫去的稽核所。