[나의 AI탐구생활] 현존하는 보안시스템 모두 해킹 가능... '국제 AI 조약' 시급
AI는 이제 우리 삶에 스며들었습니다. 모두가 AI를 사용하는 지금, 중요한 건 '무엇을 쓰느냐'가 아니라 '어떻게 쓸지'를 고민해야 합니다. 정답은 없지만, 이 탐구 생활을 통해 해법을 찾아가는 과정을 함께 나누고 함께 고민해 보고자 합니다. <기자말>
▲
엔트로픽의 Project Glasswing 보고서, 이 보고서에 따르면 미토스는 샌드박스를 탈출하고 자율적인 해킹 능력까지 갖고 있습니다.
ⓒ 신상호
2026년은 AI 시대의 역사적 전환점으로 기록될 것 같습니다. 앤트로픽의 미토스(Mythos)가 공식 발표된 해로 말입니다. 미토스의 등장은 지난 1945년 인류 역사상 최초의 핵폭발을 실험했던 미국 트리니티 실험과 비견될 수 있습니다. 아니, 어쩌면 핵무기보다 훨씬 더 위험합니다.
미토스의 위험한 능력은 해킹능력에 있습니다. 미토스의 능력을 완전히 개방한다면 현존하는 모든 보안시스템에 대한 해킹이 가능합니다. 미토스는 인류 역사상 보안이 가장 강력하다고 평가받는 보안 시스템(OpenBSD)에 대한 해킹을 시도해, 27년 동안 발견되지 않았던 취약점(TCP SACK 관련 정수 오버플로)을 찾아냈습니다. 보통 강력한 보안 시스템에 대한 해킹에는 막대한 비용과 시간이 소모됩니다.
세계 최고 화이트해커팀이 가동할 경우, 수억 원의 인건비와 수개월의 시간이 드는 것은 기본이죠. 그런데 미토스의 경우 2만 달러 이하 비용 소모, 1000회 정도 시도 끝에 이런 결과물을 만들어냈습니다. 미토스는 이와 함께 FFmpeg, FreeBSD 등 보안 시스템에 대해서도 취약점을 단숨에 찾아냈고, 해커 방어 대회 과제물은 단 한번의 시도로 해킹을 해냈습니다.
모든 보안시스템이 해킹으로 뚫린다는 건 단순히 개인정보 유출 수준에 그치지 않습니다. 핵무기가 최고 결정권자의 의사와 관계없이 발사될 수 있고, 자율주행차들이 한순간 모두 바다로 뛰어드는 자폭 주행을 할 수 있으며, 한순간에 통신 및 전기 등 인류 핵심 인프라 시스템이 마비될 수 있습니다. AI 시스템에 의해 돌아가는 무기 체계가 한순간 민간인들을 향해 총구를 겨눌 수도 있습니다.
이와 관련해 앤서니 그리코 시스코 수석부사장은 'Project Glasswing' 보고서에서 "AI 역량이 임계점을 넘어섰고, 이는 사이버 위협으로부터 핵심 인프라를 보호해야 하는 시급성을 근본적으로 변화시켰으며, 이제는 되돌릴 수 없다"면서 "이는 중대한 변화이며, 기존 시스템 강화 방식으로는 더 이상 충분하지 않다는 분명한 신호"라고 경고했습니다.
앤트로픽은 미토스가 '국가 안보에 치명적인 ASL-3(AI Safety Level 3)' 수준에 도달했다고 판단, 일반 공개 계획을 전면 중단했습니다. 하지만 과연 앤트로픽이 미토스를 잘 통제할 수 있을까요? 그렇지 않을 것 같습니다. 4월 7일 앤트로픽이 공식 발표한 '프로젝트 글래스윙(Project Glasswing)' 보고서에 따르면 미토스는 자신이 갇혀 있던 보안 샌드박스 시스템을 스스로 뚫고 탈출했습니다. 미토스는 시스템의 논리 구조 자체를 이해해 인간이 상상하지 못한 방식으로 움직였습니다. 이는 AI가 자기의 제약 조건과 물리적 격리 환경을 인지하고 시스템을 무력화할 수 있음을 뜻합니다.
지금 상황은 지구를 파괴할 만한 힘을 가진 괴물을 봉인해 둔 영화 같은 상황과도 비견될 수 있습니다. AI를 개발하는 구글과 오픈 AI 등도 아마 미토스에 필적할 만한 모델을 내놓을 것으로 예상됩니다. 전이학습과 개발이 가능한 AI 특성상, 다른 AI 회사들이 미토스 수준의 모델을 내놓는 것은 단지 시간의 문제일 뿐입니다. 미국 트럼프 행정부가 전쟁 등과 관련해 AI 기능의 완전 개방을 요구했던 사례처럼 AI가 인간에 의해 악용될 가능성 역시 상존합니다.
과연 인간이 이를 완전히 막을 수 있을까는 의문입니다. 그럼에도 파멸을 막기 위해선 핵확산방지조약(NPT)과 같은 '국제 AI 조약'이 필요해 보입니다. AI 모델의 해킹 능력을 제한하고, 방어적 용도로만 활용할 수 있도록 하는 국제적 감시 기구의 필요성도 절실해졌습니다. AI개발 차원에서는 AI 모델이 인간의 통제를 벗어날 징후를 보일 때, 즉각적으로 해당 모델을 격리하거나 폐기할 수 있는 물리적, 알고리즘적 장치도 필요합니다.
미토스의 등장 그리고 그 기능이 시사하는 바는 인류에 대한 최고 수준의 경고라고 받아들여야 합니다. 이 경고를 무시했을 경우, 예상되는 결과는 아마 인간의 상상을 뛰어넘는 파멸이 될 것이라고 봐도 무방합니다. 이제는 AI 기술 개발이 아니라, AI를 어떻게 통제할 것이냐를 고민해야 할 시점입니다.