구글 전설의 엔지니어 제프 딘 퇴사: AI 과학 실험 자동화 스타트업 Discovery Loop 창업

2026년 8월 5일, 구글 CEO 순다르 피차이는 임직원 대상 내부 메시지를 통해 인공지능(AI) 경영진의 대대적인 인사 개편을 발표했다. 구글에서 27년간 근무하며 최고과학자(Chief Scientist) 자리에 오른 전설적인 엔지니어 제프 딘(Jeff Dean)이 퇴사하여 오랜 동료인 산자이 게마왓(Sanjay Ghemawat)과 함께 신생 스타트업 Discovery Loop를 창업한다는 소식이다. 이 회사의 목표는 단 한 문장으로 요약된다. 바로 AI를 통해 과학 실험을 자동화하여 소수의 인원으로 과거 연구소 전체가 하던 일을 수행하게 만드는 것이다.

이 소식은 전 세계 기술 업계를 뒤흔들었다. 미국 개발자 커뮤니티인 해커뉴스(Hacker News)에서는 관련 게시물이 올라온 지 수 시간 만에 500점 이상의 추천수와 300개가 넘는 댓글을 기록하며 당일 일일 1위 주제로 올라섰다. 퇴사 소식 하나로 기술 생태계가 이토록 뜨겁게 달아오른 것은 과거 샘 올트먼이 OpenAI 이사회에서 잠시 해임되었을 때 이후 처음이다. 이번 내부 개편으로 딥마인드(DeepMind) 수장 데미스 허사비스가 CEO에서 이사회 의장으로 옮겨가는 등 AI 지도부가 전면 교체되었으며, 제프 딘의 퇴사는 이번 대전환에서 가장 거대한 변화로 꼽힌다.

제프 딘이 누구인가. 대중에게는 이름이 생소할 수 있지만, 현대인이 매일 사용하는 기술 서비스 대부분의 바탕에는 그가 설계한 시스템이 작동하고 있다. 구글 검색, 구글 번역, 구글 지도 시스템의 기반이 모두 그의 손을 거쳤다. 2004년 그는 산자이 게마왓과 함께 대규모 데이터 분산 처리 기술인 맵리듀스(MapReduce)를 발명했다. 수천 대의 컴퓨터에 연산을 분산시키는 이 기술은 구글 검색의 폭발적 성장을 이끌었을 뿐만 아니라 현대 빅데이터 시대의 기틀이 되었다. 2011년에는 구글 브레인(Google Brain)을 공동 설립하고 2015년에는 딥러닝 프레임워크 텐서플로(TensorFlow)의 오픈소스를 이끌어 오늘날 전 세계 AI 제품의 뼈대를 제공했다. 2023년 구글 AI 부문 통합 이후에는 기술 직군 최상위 직책인 최고과학자로 일해왔다. 1968년 하와이 출신인 그는 대학원 진학 전 세계보건기구(WHO)에서 에이즈 확산 예측 프로그램을 작성하며 엔지니어 커리어를 시작했다.

사진: 제프 딘(2025년). 출처: upload.wikimedia.org

기술계의 거장이 58세의 나이에 정든 구글을 떠나 창업을 선택한 이유는 무엇일까. 구글의 공식 입장은 매우 우호적이다. 27년간의 헌신에 감사를 표하며 창립 투자자로 새 회사에 자금을 대고 클라우드 파트너십을 이어가기로 했다. 겉으로는 아름다운 이별이지만, 업계 전문가들은 구글의 커진 덩치가 더 이상 과거처럼 빠르게 시도하고 실패하는 환경을 제공하지 못했기 때문이라고 분석한다. 약 20만 명의 임직원과 월간 9억 5천만 명의 활성 사용자를 보유한 제미나이(Gemini) 제품군을 관리해야 하는 대기업 구조에서는 단순한 아이디어 하나를 시범 운영하는 데도 수많은 승인 절차를 거쳐야 한다. 제프 딘과 같은 거장에게 가장 소중한 자산인 ‘빠른 실험과 개선의 자유’가 대기업 안에서는 점점 더 비싸진 것이다. 해커뉴스의 한 고참 엔지니어는 “제프와 산자이가 떠나면서 한 황금시대가 막을 내렸다. 많은 수석 엔지니어들이 구글에 남아있던 마지막 이유는 ‘적어도 제프와 산자이가 아직 자리를 지키고 있다’는 점이었다”라고 회고했다.

그렇다면 그들이 구축하려는 ‘자동화된 발견 루프(Discovery Loop)‘란 무엇인가.

과학 연구가 진보하는 과정을 되짚어보자. 연구자가 가설을 세우고, 실험을 설계하고, 실험을 수행하고, 결과를 분석한 뒤, 결과에 따라 가설을 수정하여 다음 실험을 계획한다. 이 ‘가설-실험-결과-수정’의 순환 구조를 실험 루프라고 부른다. 개념은 단순하지만 현실에서는 매우 느리다. 실험 하나를 설계해서 결과를 얻기까지 수주일에서 수개월이 걸리기 일쑤이며, 수십 명 규모의 연구소도 1년에 대형 연구 몇 개를 마치는 것이 한계다. Discovery Loop가 하려는 일은 이 전체 루프를 AI에 맡기는 것이다. AI가 스스로 가설을 세우고, 실험을 설계 및 실행하며, 결과를 읽어내고 다음 실험을 결정한다. 심지어 수천 개의 실험을 동시에 병렬로 진행할 수 있다. 홈페이지 소개글처럼 ‘소수의 인원이 오늘날 대규모 조직보다 훨씬 뛰어난 속도와 품질로 과학 연구를 수행하는 미래’를 목표로 한다.

사진: Discovery Loop 공식 홈페이지의 ‘자동화 실험 루프’ 개념도. 출처: discoveryloop.com

이 아이디어가 파격적인 이유는 무엇일까. 지난 수십 년 동안 과학 기술을 가속하는 방법은 더 많은 연구소, 더 많은 연구원, 더 많은 예산 투입이라는 인력 확대 중심이었다. 제프 딘은 과학 연구의 병목 현상이 결국 ‘사람’에게 있다고 판단했다. 사람은 실험 속도가 느리고 비용이 많이 들며 쉽게 피로해진다. 실험 루프를 자동화하면 연구 속도는 인력 규모가 아니라 계산 자원의 양과 병렬 연산 규모에 의해 결정된다. 창업팀은 자신들에게 가장 익숙한 영역인 ‘인공지능 연구 자체’부터 개척하기로 했다. AI가 AI 실험을 스스로 수행하여 자신들의 기술을 먼저 최적화한 뒤, 바이오, 재료 등 다른 분야로 확장한다는 구상이다. 창립 멤버는 제프 딘, 산자이 게마왓, 쿽 레(Quoc Le), 오리올 비냐알스(Oriol Vinyals) 4명이다. 이들 중 3명은 세계에서 가장 많이 인용되는 AI 연구자이며, 2명은 분산 시스템 분야 최고 인용 연구자다. 구글 검색, 텐서플로, 알파폴드(AlphaFold), 제미나이 등 내로라하는 혁신들이 모두 이들의 손에서 태어났다.

사진: Discovery Loop 창립 팀(왼쪽부터 비냐알스, 게마왓, 딘, 레). 출처: discoveryloop.com

이들의 야망은 소프트웨어 연구에 그치지 않는다. 홈페이지에는 미국 국립공학한림원(NAE)이 선정한 ‘21세기 14대 공학 과제’가 목표 목록으로 제시되어 있다. 저렴한 태양광 에너지, 통제 가능한 핵융합, 깨끗한 식수 공급, 맞춤형 신약 개발, 사이버 보안 강화, 과학 연구용 도구 개발 등이 포함된다. 제프 딘은 소셜 미디어를 통해 자신들의 자동화 방법론이 이 14대 과제의 거의 모든 핵심 세부 문제를 다룰 수 있다고 호언장담했다. 하나하나가 인류가 수십 년 동안 수백억 달러를 투입하고도 해결하지 못한 과제들이다. 이러한 대담한 선언은 진짜 기술적 확신이 있거나 투자 유치를 위한 비전 제시일 텐데, 스타트업 세계에서는 이 두 가지가 동시에 작용하곤 한다.

당연히 논란도 뒤따르고 있다. 해커뉴스에서 가장 열띤 논쟁이 벌어진 지점은 ‘AI의 인간 일자리 대체’라는 고전적인 문제였다. 반대 측 의견을 대표한 beloch 사용자의 댓글은 많은 호응을 얻었다. “이 스타트업의 핵심 약속은 결국 연구원들을 자동화하여 대체하고 소수가 모든 보상과 공로를 독점하겠다는 뜻이다. 기존 AI 기업들의 시나리오가 이제 과학자 자신들에게 적용된 것에 불과하다”라는 비판이다. 이 논리에 따르면 AI가 실험을 자동화할 때 가장 먼저 일자리를 잃는 이는 보조 연구원이나 실험실 기술자들이다.

반면 찬성 측의 논리도 팽팽하다. 과학자의 귀중한 시간이 단순 반복 노동에 소비되어서는 안 된다는 주장이다. 신약 하나가 개발되어 출시되기까지 평균 10년 이상의 기간과 10억 달러 넘는 비용이 소요된다. 실험 루프를 비약적으로 단축할 수 있다면 신약, 신소재, 차세대 배터리가 과거와 비교할 수 없는 속도로 개발되어 결국 인류 전체가 혜택을 누리게 된다. 한 사용자는 “실험해 보지 않을 이유가 어디에 있는가? 이 시스템이 진짜 성공한다면 그 결과물이 모든 의구심을 잠재울 것”이라고 반박했다.

결국 양측의 분쟁은 성과가 어떻게 분배되느냐에 집중되어 있다. 기술적으로 구현 가능한가와 그 결실을 사회가 어떻게 공유할 것인가의 문제다. 또한 AI 자동화 실험에는 ‘신뢰성’이라는 치명적인 숙제가 남아있다. AI가 스스로 실험을 설계하고 결과를 해석할 때 자신이 틀렸다는 사실을 어떻게 검증할 것인가. 인간 과학자가 수행한 실험조차 재현성 위기를 겪는 상황에서 AI가 내놓은 실험 결과를 누구 검증할 수 있을 것인가. 제프 딘의 팀은 이 질문에 답할 세계 최고의 자격을 갖추었지만, 자격이 있다는 것과 실제로 문제를 해결했다는 것은 별개의 문제다.

일반 대중에게 이 사건이 갖는 의미는 명확하다. Discovery Loop가 성공한다면 신약 출시 기간, 전기차 배터리 단가, 가정용 태양광 발전 효율이 획기적으로 바뀔 것이다. 실패한다면 AI 열풍 속의 또 다른 비싼 도박으로 기억될 것이다. 어떤 결과가 나오든 분명한 사실이 하나 있다. 과학 연구의 패러다임이 인력 투입 중심에서 ‘알고리즘과 계산 자원’의 조합으로 전환되고 있으며, 그 변화의 운전대를 50대 고참 엔지니어들이 쥐고 있다는 점이다.

참고 링크:

• Discovery Loop 공식 홈페이지
• Google 공식 발표: Next Chapter of AI Momentum
• HN 토론 (item?id=49184960)
• HN 토론 (item?id=49184755)