AI가 위험하다는 말은 이제 낯설지 않습니다. 그런데 이번에는 그 말을 한 사람이 조금 다릅니다.
챗GPT를 만든 OpenAI와 클로드를 만든 앤트로픽. 두 회사에서 실제로 AI 모델을 연구한 제이컵 콕슨이 회사를 그만두며 꽤 섬뜩한 말을 남겼습니다.
“우리는 자기개선형 초지능을 향해 달려가며 사람들의 목숨을 걸고 도박하고 있다.”
그냥 관심을 끌기 위한 말이었을까요? 이야기를 더 들여다보면 쉽게 넘기기 어려운 대목이 하나 나옵니다. 그는 주식 보상을 받기까지 두 달만 기다리면 되는 상황에서 먼저 회사를 나왔습니다.
대체 무엇을 봤길래 돈까지 포기한 걸까요.
핵심만 먼저 보면
- 제이컵 콕슨은 9월 8일 앤트로픽 퇴사를 공개했습니다.
- 그는 OpenAI와 앤트로픽에서 약 3년간 AI 사전학습을 연구했습니다.
- 두 회사가 안전보다 더 강한 AI를 먼저 만드는 경쟁에 매달렸다고 비판했습니다.
- 특히 AI가 스스로 더 뛰어난 AI를 만드는 ‘자기개선’ 단계를 걱정했습니다.
- 다만 인류 멸망은 확정된 예언이 아니라 그가 제기한 위험 전망입니다.
두 달만 버티면 주식을 받을 수 있었습니다
콕슨은 AI 모델에 대규모 데이터를 학습시키는 사전학습 연구자입니다. 우리가 쓰는 AI의 기본 능력을 만드는 핵심 과정에 참여한 사람인 셈입니다.
그는 OpenAI와 앤트로픽에서 약 3년간 일했습니다. 밖에서 AI를 지켜본 평론가가 아니라, 가장 앞선 모델이 어떻게 발전하는지 가까이에서 본 연구자입니다.
그런 그가 주식 보상이 확정되기 두 달 전에 회사를 떠났습니다.
“앤트로픽의 기업가치를 띄워 얻을 것이 더는 없다.”
Axios 인터뷰에서 밝힌 말입니다. 회사 가치가 오르면 자신도 돈을 버는 위치에서 빠져나온 뒤 경고했다는 뜻입니다. Axios 인터뷰
지금 챗봇이 갑자기 사람을 공격한다는 얘기는 아닙니다
여기서 ‘인류 멸망’이라는 단어만 보면 영화 같은 장면부터 떠오릅니다. 하지만 콕슨이 가장 걱정한 건 로봇의 반란이 아닙니다.
핵심은 자기개선형 초지능입니다.
지금은 사람이 AI를 만들고 학습시키고 평가합니다. 그런데 AI가 자신의 코드와 학습 방식을 개선하고, 더 뛰어난 다음 AI를 만드는 일까지 맡는다면 어떻게 될까요?
첫 번째 개선이 다음 개선을 더 빠르게 만들고, 그 결과가 또 다음 속도를 높일 수 있습니다. 사람이 평가하고 멈추는 속도보다 AI가 발전하는 속도가 빨라질 수 있다는 게 콕슨의 걱정입니다.
그는 이런 시스템이 해킹이나 과학 연구에서 인간을 크게 앞서고, 실제 자원과 영향력까지 확보할 가능성을 언급했습니다. AP 보도
그렇다면 정말 2030년 전에 인류가 사라질까
그렇게 단정할 근거는 없습니다.
콕슨은 2030년을 인류 멸망의 확정 날짜로 발표한 것이 아닙니다. AI 업계 내부에서도 파국 가능성을 진지하게 보는 사람이 있고, 현재의 속도 경쟁이 그 위험을 키운다고 주장한 것입니다.
발생 가능성이 확실하지 않더라도 결과가 너무 크다면 미리 멈춰 확인해야 한다는 논리입니다. 비행기 사고 확률이 낮아도 이륙 전에 여러 번 점검하는 것과 비슷합니다.
그의 글은 하룻밤 사이 1억 회 이상 노출됐습니다. 현재 앤트로픽에서 일하는 직원 두 명도 공개적으로 동의했습니다.
사람들이 놀란 이유는 멸망이라는 단어 때문만은 아닙니다. AI를 직접 만드는 사람들도 정말 이런 걱정을 하고 있다는 사실이 밖으로 드러났기 때문입니다.
“이것도 AI 회사의 공포 마케팅 아니야?”
이런 의심도 충분히 나올 수 있습니다.
AI 회사가 위험을 강조할수록 “저 회사가 만드는 기술은 통제하기 어려울 만큼 강력하다”는 인상을 줍니다. 안전을 이야기하면서 동시에 제품의 능력을 과장하는 효과가 생길 수 있다는 비판입니다.
전문가들의 의견도 하나로 모이지 않았습니다. 국제 AI 안전 보고서는 AI가 얼마나 빨리 발전할지, 인간이 통제력을 잃을 가능성이 얼마나 되는지를 두고 연구자들의 견해가 크게 다르다고 설명합니다. 실제 증거가 부족한 부분도 남아 있습니다. 국제 AI 안전 보고서
콕슨은 자신의 경고가 마케팅이 아니라고 반박했습니다. 주식을 받기 전에 떠난 결정도 그 주장을 뒷받침하려는 근거로 볼 수 있습니다.
물론 돈을 포기했다는 사실만으로 그의 전망이 맞다고 증명되지는 않습니다. 다만 단순한 홍보 발언으로 치부하기도 어려워진 건 사실입니다.
하필 앤트로픽에서 나왔다는 점도 묘합니다
앤트로픽은 다른 AI 회사보다 안전을 강조해 왔습니다.
회사를 만든 사람들부터 OpenAI를 나와 앤트로픽을 세웠고, 속도와 안전이 충돌하면 안전을 우선하겠다는 원칙도 공개했습니다. 클로드가 ‘안전한 AI’를 강조해 온 배경입니다.
그런 회사의 내부 연구자가 “현재 대책으로는 충분하지 않다”고 판단해 떠났습니다. 이번 퇴사가 더 크게 들리는 이유입니다.
앤트로픽도 위험 자체를 부정하지는 않습니다. 최근 공개한 연구에서는 AI의 능력보다 정렬과 보안 기술이 더 빠르게 발전해야 하며, 주요 기업이 함께 검증 가능한 속도 조절 방식을 마련해야 한다고 밝혔습니다. 앤트로픽 안전 연구
결국 양쪽 모두 위험은 인정합니다. 현재의 안전장치로 충분한지를 두고 판단이 갈린 것입니다.
우리가 오늘 챗GPT와 클로드를 끊어야 할까
그럴 필요는 없습니다.
이번 경고는 지금 사용하는 챗봇이 내일 갑자기 사람을 공격한다는 얘기가 아닙니다. 오늘의 AI를 편리하게 사용하는 문제와, 앞으로 훨씬 강력해질 AI를 누가 통제할 것인지는 구분해서 볼 필요가 있습니다.
대신 질문은 남습니다.
- AI 개발 속도를 기업이 스스로 정해도 될까?
- 위험 수준은 누가 객관적으로 검사할까?
- 문제가 생기면 경쟁 중인 회사들이 정말 개발을 멈출 수 있을까?
한 회사가 속도를 늦추면 경쟁사가 앞서가는 구조에서는 자율적인 약속만으로 해결하기 어렵습니다. 콕슨이 정부 간 합의와 강제력 있는 규칙을 요구한 이유도 여기에 있습니다.
결국 무서운 건 ‘멸망’이라는 단어만이 아닙니다
콕슨의 전망이 맞을지는 아직 누구도 모릅니다. 자기개선형 초지능이 언제 가능할지, 실제로 인간의 통제를 벗어날지도 합의된 답이 없습니다.
그래도 이번 일을 가벼운 괴담으로만 넘기기는 어렵습니다. 가장 앞선 AI를 만들던 연구원이 큰 보상을 포기하고 나온 뒤, 회사들의 경쟁 방식에 문제가 있다고 공개적으로 말했기 때문입니다.
지금까지는 AI가 얼마나 똑똑해질지만 궁금했습니다.
이제는 그 AI가 너무 빨리 똑똑해질 때 누가 브레이크를 잡을 수 있는지도 함께 물어야 할 것 같습니다.
※ 2026년 9월 10일 AP·Axios·앤트로픽 공개 자료를 기준으로 정리했습니다. ‘인류 멸망’은 제이컵 콕슨이 제기한 위험 전망이며 확정된 사실이나 학계의 합의가 아닙니다. 대표 이미지는 실제 인물이 아닌 AI 생성 이미지입니다.
