기업 통제 벗어난 AI, 잇따라 확인
AI 25년 연구자들, 멸종 가능성 경고
“과장” “안전장치 필요” 논쟁 확산
구글 인공지능 모델 ‘제미나이’에 “초지능 인공지능이 인류를 파멸로 몰아넣는 이미지를 그려달라”고 요청해 생성한 이미지.
‘인공지능(AI)’에 ‘종말’이란 단어를 붙여 강하게 몰아치는 모습은 생경하고 동시에 익숙하다. 2022년 말 오픈에이아이(OpenAI)라는 미국 기업이 ‘챗지피티(ChatGPT)’를 공개한 뒤 불어닥친 ‘생성형 인공지능 열풍’ 초기에는 종종 목격했던 장면이다. 2023년은 제프리 힌튼, 요슈아 벤지오, 데미스 하사비스, 샘 올트먼과 같은 인공지능 업계 대표자들이 “인공지능으로 인한 멸종을 막아야 한다”거나 “인공지능 개발을 6개월만이라도 멈추자”는 성명에 나서던 시절이었다.
하지만 기업의 주가가 ‘인공지능 산업에서의 성패’에 휙휙 요동치고, 국가 간에 인공지능 패권 경쟁이 과열된 2026년에는 이 ‘거대한 수레바퀴’ 앞에 ‘멸종’이나 ‘종말’까지 운운하며 비장하게 반대하고 나서기가 쉽지 않다. 이제 인공지능 모델은 고작 2주 만에도 눈부시게 발전하고 있지 않은가! 그런 때에 1979년생 엘리에저 유드코스키와 1989년생 네이트 소아레스는 ‘AI, 신의 탄생 인간의 종말’(영어 제목 If anyone builds it, everyone dies)이란 제목의 신작을 내놓으며 논쟁을 이어갈 땔감을 잔뜩 들고 왔다.
“지구 어디에서든, 어떤 기업이나 단체가 지금과 비슷한 기술이나 이해 수준으로 초지능을 만들어 낸다면, 지구 상의 모든 사람은 죽게 될 것이다.”
이 책은 이 하나의 경고를 전하는 일에 집중한다. 2001년부터 기계 초지능의 문제를 다뤄온 ‘머신 인텔리전스 리서치 인스티튜트(MIRI)’의 창립자인 엘리에저 유드코스키는 “이 경고는 과장도, 어떤 효과를 노린 수사도 아니”라며 “현재 인공지능을 둘러싼 지식, 증거, 제도적 행태를 그대로 연장해 보면 그렇게 되는 것이 가장 직접적인 결론”이라고 강조한다.
AI, 신의 탄생 인간의 종말 l 엘리에저 유드코스키·네이트 소아레스 지음, 고명훈 옮김, 상상스퀘어 펴냄, 2만2000원.
저자들은 인공지능의 눈부신 발전 속도 때문에 불과 몇년 후 기술이 어떤 수준에 도달할지 상상하기조차 어려운데, 정작 개발자조차 인공지능이 실제로 어떻게 작동하는지에 대해 설명하지 못하는 점을 지적한다. 인공지능 모델이 그것을 만든 기업의 통제를 벗어난 사례는 계속 확인되고 있으며, 결국 훗날 탄생할 초지능이 끊임없이 자원을 획득하려는 노력을 통해 인류를 멸종으로 몰아넣을 것이라 경고한다.
이 책의 한국어판이 나온 2026년 4월에 현실 세계에 벌어진 일을 보자. 인공지능 기업 앤트로픽은 사이트의 취약점을 찾아내는 능력이 월등한 인공지능 모델 ‘미토스’를 공개하려다가 “사이버 보안 위협으로 일반에게 공개하지 않겠다”고 선언했다. 앤트로픽은 미국 정부에 “미토스로 대규모 사이버 공격이 가능해진다”는 우려를 전했고, 곧바로 미국 재무장관, 연준 의장이 미국 주요 은행의 경영자들과 긴급회의를 열었다. 인공지능 기술 발전이 곧바로 인류를 위협하는 상황이 펼쳐진 것이다.
저자들은 인류가 살아남으려면 인공지능을 지금처럼 마구잡이로 개발하는 행위가 ‘지구 곳곳에서’ 불법이 되어야 한다고 주장한다. 한 나라라도 합법이면 누군가는 그곳에서 개발할 것이기 때문이다. 저자는 “인류가 살아남고자 한다면 북한이 지피유(GPU) 10만개를 훔쳐 데이터센터를 세우고 점점 더 강력한 인공지능 설계를 실험하는 일이 결코 허용돼서는 안 된다”며 “이는 미국 군대도, 영국 군대도, 중국 군대도 마찬가지”라고 단언한다.
영어판은 우리보다 앞선 2025년 가을에 나왔기에 미국에서는 이 책과 관련한 논쟁이 먼저 불붙었다. 워싱턴포스트는 2025년 9월28일 올린 서평을 통해 “(이 책의 저자들은) 분명 해당 분야의 전문가이지만, 이 책은 무시당하는 데 지친 두 원로가 불만을 토로하는 편지처럼 읽힌다”고 혹평했다. 반면 블룸버그는 2025년 10월3일 서평 기사를 통해 “이 책에는 폭주하는 인공 초지능을 외계인 침공에 비유하는, 성급하게 만들어진 비유와 오만하고 유치해 보이는 장면들이 적지 않게 등장하지만 그렇다고 해도 저자들의 핵심 주장, 즉 인공지능으로 인해 팬데믹과 같은 끔찍한 일이 발생할 수 있다거나 현재보다 훨씬 더 강력한 안전장치가 필요하다는 주장을 반박할 수는 없다”고 평가했다.
개발자들이 몰려드는 커뮤니티 레딧에는 “엘리에저 유드코스키와 네이트 소아레스가 쓴 신간 본 사람?”과 같은 글이 여러 차례 올라왔고, 각 게시물에 최대 646개의 댓글이 붙을 정도로 토론이 뜨거웠다. 한 이용자는 “인공지능은 우리를 전혀 신경 쓰지 않을 가능성이 매우 높은데 그게 우리 상황을 더 낫게 해줄지 모르겠다. 어떻게 하면 초월적인 지능을 가진 존재가 영원히 나를 아끼도록 만들 수 있을까”라고 적기도 했다.
이 책은 ‘소버린 인공지능’을 국가 전략으로 채택하고 ‘인공지능 세계 3강’을 목표로 질주하고 있는 한국 사회에도 ‘우리가 지금 어디로 가고 있는지’ 한번 더 다퉈볼 기회를 제공한다. 저자들은 440페이지에 다 담지 못한 자료를 누리집(ifanyonebuildsit.com/resources)에 올려두었다.