한 번 걸러지면 모든 회사에서 탈락 — 같은 AI를 쓰는 채용의 함정

무슨 일이 있었나

스탠퍼드 인간중심AI연구소(HAI)가 채용 알고리즘을 역대 최대 규모로 뜯어봤다. 구인 공고 170만 건, 지원 400만 건, 구직자 340만 명을 분석한 결과, AI 채용 도구가 소수 인종 지원자를 체계적으로 걸러 낸다는 정황이 나왔다. 아시아계 지원자는 5.3%, 흑인 지원자는 10.6%의 사례에서 AI 때문에 불이익을 받았다. 백인·히스패닉의 불이익률이 1% 미만이었던 것과 대비된다. 이력서 단계만 봐도 공고의 15%가 아시아계를, 26%가 흑인을 걸러 냈다.

진짜 발견은 숫자가 아니라 구조다. 연구진은 이를 ‘알고리즘 단일문화(algorithmic monoculture)‘라 불렀다. 수많은 회사가 같은 벤더의 채용 AI를 가져다 쓰면, 한 모델이 한 번 떨어뜨린 지원자는 그 모델을 쓰는 모든 회사에서 똑같이 떨어진다. 회사들이 제각각 독립적으로 판단했다면 한 곳에서 탈락해도 다른 곳엔 붙을 확률이 남지만, 같은 알고리즘이 모든 관문을 지키면 그 확률이 0으로 수렴한다. 한 번 찍히면 어디서도 안 뽑히는 연쇄 탈락이다. 미국 기업의 약 90%가 이미 어떤 형태로든 AI 선별을 쓰고, 지원 건수는 2022년의 약 3배로 불어났다. 사람이 일일이 보기엔 너무 많아진 지원서를 AI가 거르는 사이, 그 AI의 편향이 시장 전체의 문지기가 됐다.

창업자에게 의미하는 것

두 종류의 창업자가 이 뉴스를 다르게 읽어야 한다.

HR·채용 도구를 만드는 팀에게 이건 시장이 열린다는 신호다. 편향이 드러난 이상 규제와 소송 압력이 따라온다. 미국은 EEOC의 ‘5분의 4 규칙(four-fifths rule)‘으로 차별적 영향을 따지고, 뉴욕시는 자동화 채용 도구에 편향 감사를 의무화하는 법(Local Law 144)을 이미 시행 중이다. EU AI법은 채용 AI를 고위험으로 분류한다. 도입 기업에 ‘우리 채용 AI는 공정하다’를 증명할 책임이 생긴 것이다. 그 증명을 대신 해 주는 감사·검증 레이어, 벤더 다양성 점수, 차별 영향 테스트가 곧 살 사람이 정해진 제품이 된다.

채용 AI를 쓰는 스타트업에게는 경고다. 남들과 같은 벤더의 선별 도구를 쓴다면, 모두가 똑같이 떨어뜨린 지원자 풀에서 사람을 뽑는 셈이다. 경쟁사가 놓친 인재를 채갈 기회를, 같은 알고리즘을 공유하는 순간 스스로 닫는다. 게다가 법적 노출까지 떠안는다. 도구를 산 건 벤더 쪽이지만, 차별 결과의 책임은 고용주에게 돌아온다.

한국 맥락도 분명하다. 채용절차의 공정화에 관한 법률은 합리적 이유 없는 차별을 금지하고, 공공·대기업을 중심으로 블라인드 채용과 NCS 기반 평가가 자리 잡았다. 여기에 AI 면접·서류 선별이 빠르게 들어오는 중이다. 국내에서 채용 AI를 B2B로 파는 팀이라면, 도입처 인사·법무가 가장 먼저 던지는 질문이 “이 모델이 특정 집단을 거르지 않는다는 걸 어떻게 보이느냐”라는 걸 알아야 한다. 공정성 증명은 규제 비용이 아니라 도입을 앞당기는 영업 포인트다.

지금 취할 수 있는 행동

채용·평가에 AI를 쓴다면, 오늘 벤더에게 두 가지를 물어보자. 첫째, 인종·성별 집단별 합격률 격차 데이터를 줄 수 있나. 둘째, 같은 모델을 쓰는 다른 고객이 몇이나 되나. 두 답을 못 주면 단일문화 리스크와 차별 리스크를 동시에 떠안는 것이다. HR 제품을 만드는 팀이라면, 기능 하나를 더 붙이기 전에 ‘집단별 영향 리포트’를 제품 안에 박아 두는 편이 결국 규제 시장에서 앞서간다.