2026년 졸업생들이 마주한 것은 수년 만에 가장 어려운 취업 시장이다. 신입 채용은 둔화되었고, AI는 이력서 제출 장벽을 0으로 낮췄다. 결과적으로, 기업이 받는 신입 지원 건수는 2022년의 거의 3배에 달한다.
미국 고용주의 90%가 AI로 지원자를 스크리닝하고 순위를 매기며, 그 대부분은 동일한 소수의 서드파티 벤더에 의존한다. Stanford HAI 연구팀은 340만 명이 제출한 400만 건의 지원을 추적했다 — 150개 고용주, 1,700개 직무, 11개 산업 — 이 모든 지원이 동일한 AI 채용 벤더의 평가를 거쳤다.
결론은 단호하다: AI 채용 도구는 인종 편향을 가질 뿐 아니라, 여러 회사가 동일한 알고리즘을 공유하기 때문에 한 회사에서 탈락한 후보가 다른 회사에서도 똑같이 탈락한다.
사라진 40,000건의 추천
연구는 EEOC의 ‘5분의 4 규칙’을 채택해 불이익 영향을 측정한다: 어떤 그룹의 추천율이 가장 높은 그룹의 80% 미만일 때, 해당 직무는 차별적이라고 표시된다. Title VII 고용법은 이를 차별의 1차 증거로 간주한다.
결과: 흑인 지원자의 26%와 아시아계 지원자의 15%는 AI가 자신의 인종 그룹에 차별적인 직무에 지원했다. 만약 AI가 흑인과 아시아계 후보자를 가장 높은 추천율을 받은 그룹(보통 백인)과 동일한 비율로 추천했다면, 추가로 40,000건의 지원이 다음 단계로 진출했을 것이다.
여기 통계적 함정이 있다. 모든 직무의 추천 결과를 하나로 섞어서 — 벤더를 하나의 ‘거대 채용 프로세스’로 봤을 때 — 데이터상으로는 불이익 영향이 발견되지 않는다. 이는 AI가 어떤 직무(예: 창고)에서는 흑인 지원자를 자주 추천하고, 다른 직무(예: 금융)에서는 거의 추천하지 않기 때문이다. 두 패턴이 큰 풀에서 서로 상쇄되어, 모든 것이 공정해 보인다. 하지만 직무별로 나눠서 보면, 차별은 분명히 존재한다.
알고리즘 단일문화
‘알고리즘 단일문화’는 연구팀이 앞서 제안한 이론적 개념이다: 여러 의사 결정자가 동일한 알고리즘에 의존할 때, 알고리즘의 편향이 시스템적으로 증폭된다. 이번 연구는 이 가설을 실제 데이터로 처음 검증한 것이다.
핵심 발견: 지원자가 동일한 AI 벤더가 스크리닝하는 여러 직무에 지원할 때, 모든 직무에서 탈락할 확률이 통계적으로 독립적인 결정을 가정한 기준선보다 유의미하게 높았다. 4건의 지원을 제출한 지원자 중 10%가 전부 탈락했다.
연구팀은 이전 최대 규모의 채용 결정 연구 데이터 — 동시기에 Fortune 500 기업 108곳에 발송된 83,000건의 지원(AI 사용 여부 불문) — 를 비교했다. 대조군에서 모든 회사로부터 탈락한 비율은 통계적 독립 결정의 예상치와 일치했다.
이는 시장 집중도가 핵심 변수임을 시사한다: 한 채용 AI 벤더가 특정 산업의 스크리닝을 지배할 때, 후보자가 시스템적으로 배제될 확률이 올라간다.
벤더의 통계 게임
연구는 벤더가 차별 혐의를 회피하기 위해 사용하는 방법론적 허점도 밝혀냈다.
벤더가 처리하는 모든 직무를 하나로 섞어 총체적 평가를 하면, 직무 간 차별 패턴은 서로 상쇄되어 전체 수치에 문제가 없어 보인다. 그러나 이는 기본적 사실 하나를 무시한다: 지원자는 ‘벤더’에 지원하는 것이 아니라 구체적인 직무에 지원한다는 점이다. 누군가가 창고 직무에서는 추천되고 금융 직무에서는 거절당했다면 — 이 두 결과는 통계상 아무것도 ‘상쇄’하지 않는다. 그것들은 서로 다른 인생의 궤적이다.
이 허점은 법적 차원에서도 동일하게 존재한다. EEOC의 불이익 영향 평가는 보통 직무별로 실시되지만, AI 벤더는 ‘시스템 전체’로 평가해야 한다고 주장할 수 있다 — 모든 직무를 섞어서, 차별 신호를 ‘평균’ 내는 것이다.
공존해서는 안 되는 세 가지 특성
연구팀은 문제의 구조를 한 문장으로 요약한다: “AI 채용 도구는 동시에 존재해서는 안 되는 세 가지 특성을 갖추고 있다: 광범위한 채택, 높은 중대성, 외부 불투명성.”
어떤 자동 의사 결정 시스템이:
- 고용주의 90%를 커버하고
- 한 사람이 면접 기회를 얻을 수 있는지 결정하며
- 작동 논리가 외부에 보이지 않을 때
이 세 조건이 동시에 충족되면, 우리는 견제 메커니즘 없는 블랙박스 권력 노드를 마주하고 있는 것이다.
이 연구의 가장 가치 있는 기여는 시장 집중도가 어떻게 개별 편향을 시스템적 배제로 증폭시키는지를 수치화한 데 있다. ‘AI에 편향이 있다’는 것은 이미 알려진 사실이지만, ‘동일한 알고리즘이 어떻게 한 사람을 모든 회사에서 동시에 탈락시키는가’ — 이것은 새로운 문제다.
새 변수: LLM과 Agent
연구팀은 결론에서 주목할 만한 트렌드를 언급한다: 차세대 채용 도구가 언어 모델과 AI agent를 사용하기 시작했다. 이 모델들은 능력이 더 강하고, 행동이 더 예측 불가능하며, 편향 탐지가 더 어렵다.
현재 LLM의 코드 생성과 글쓰기 능력 진전을 고려하면, 채용 스크리닝은 ‘키워드 매칭 + 구조화된 점수’에서 ‘대화 평가 + 종합 판단’으로 이동 중이다. 후자는 감사하기가 더 어렵다 — 판단 근거가 더 이상 개별 점수 차원의 집합이 아니라, 종단간 블랙박스 추론 과정이기 때문이다.
이 글의 소재는 공개 정보와 커뮤니티 논의에서 가져왔습니다. 이 주제에 대해 더 깊이 있는 일차 경험이 있다면 글의 부족한 점을 지적해 주시기 바랍니다.