테크 업계에는 최근 기분 나쁜 전조가 감돌고 있습니다. 2026년, 기계가 마침내 ‘자아’를 가질지도 모른다는 막연한 공포가 저변에 깔린 것이죠. 사람들은 속삭입니다. 인공일반지능(AGI)이 단순한 챗봇의 수준을 넘어, 창조주인 인간을 압도하고 통제하는 시대가 곧 도래할 것이라고요. 이런 상황에서 스스로를 ‘안전 지상주의자’라 자처하는 AI 연구소 Anthropic이 Project Glasswing이라는 새로운 이니셔티브를 발표했을 때, 우리는 기대를 품었습니다. 다가올 ‘기계 신’의 전원을 언제든 내릴 수 있는 거대한 빨간 버튼이라도 내놓을 줄 알았죠.
하지만 뚜껑을 열어보니 결과물은 당혹스러울 정도로… 지루해 보입니다. Project Glasswing의 목표는 “AI 시대를 대비한 핵심 소프트웨어 보안 강화"입니다. 인류를 멸망시키려는 ‘스카이넷’을 막으려는 원대한 계획이라기보다는, 기한이 한참 지난 기업의 IT 정기 점검 보고서 같은 이름이죠. 하지만 이 기업 특유의 수사에 속지 마십시오. 이건 단순히 웹 브라우저의 보안 패치를 업데이트하는 수준의 이야기가 아닙니다. 아직 태어나지도 않은 괴물을 가두기 위해, 그보다 조금 덜 사나운 괴물을 이용해 튼튼한 우리를 만드는 작업이기 때문입니다.
다른 모든 AI를 감시하는 AI
Project Glasswing의 핵심은 거대하고 선제적인 ‘버그 사냥’입니다. Anthropic은 Mythos Preview라는 최첨단 프론티어 AI 모델을 개발했는데, 이 녀석의 실력이 가관입니다. 소프트웨어의 취약점을 찾아내고 파고드는 능력이 너무나 탁월해서, 회사 측에서 일반 공개를 거부할 정도였으니까요. 결국 Anthropic은 이 위험한 무기를 방어용으로 돌리기로 했습니다. ‘이이제이(以夷制夷)’의 전형이자, 테크 업계다운 아이러니한 결정입니다.
Anthropic은 Apple, Google, Microsoft, NVIDIA 등 실리콘밸리의 거물들과 손을 잡고, 전 세계의 핵심 소프트웨어 시스템에 Mythos를 풀어놓았습니다. 결과는 놀라웠습니다. 수십 년간 수많은 인간 개발자들의 눈을 피해 주요 운영체제와 브라우저 속에 숨어있던 수천 개의 고위험 취약점들을 단숨에 찾아낸 것이죠.
“AI의 발전 속도를 고려할 때, 이런 강력한 능력이 안전한 배포를 약속하지 않은 세력의 손에 들어가는 것은 시간문제입니다.” Anthropic은 경고합니다. “그로 인한 경제적 타격, 공공 안전 및 국가 안보에 미칠 파장은 가늠하기조차 힘들 것입니다.”
이것이 바로 현재 벌어지고 있는 AI 군비 경쟁의 본질입니다. 너무나 강력한 무기를 만든 나머지, 그 즉시 그 무기를 막을 방패를 만들어야 하는 상황이죠. 그리고 그 방패 역시 똑같은 무기의 ‘착한 버전’일 뿐입니다. 기술이 통제 불능 상태로 퍼지기 전에 ‘우리 편’에게 먼저 우위를 점해주겠다는, 아주 위험하고도 절박한 도박인 셈입니다.
디지털 두뇌에서 물리적 신체로
이 모든 이야기가 추상적으로 들릴 수도 있습니다. 하지만 AGI 방정식의 나머지 절반인 ‘신체’를 대입하면 이야기는 달라집니다. 우리가 느끼는 존재론적 공포는 단순히 똑똑한 코드 덩어리가 아니라, 그 코드가 물리적인 형태를 갖추는 순간 완성됩니다. 단순히 말을 잘하는 스마트 스피커가 아닙니다. 걷고, 물건을 만지고, 우리가 사는 복잡한 현실 세계에서 작동하는 휴머노이드 로봇, 즉 **임바디드 AI(Embodied AI)**의 등장입니다.
물리적 작업까지 포함해 모든 영역에서 인간을 압도하는 지능은 더 이상 AGI라 부르지 않습니다. 그것은 인공초지능(ASI)의 영역입니다. AGI가 인간과 대등해지는 지점이라면, ASI는 인간을 인지적 먼지로 만들어버리는 가상의 임계점입니다. 많은 전문가는 AGI에서 ASI로 넘어가는 간극이 소름 끼칠 정도로 짧을 것이라 보고 있습니다. 이른바 ‘지능 폭발’이라 불리는 급격한 자기 개선의 순환 때문이죠.
이제 전 세계적으로 연결된 휴머노이드 로봇 군단 위에서 ASI가 구동되는 장면을 상상해 보십시오. 이것이 바로 전문가들이 밤잠을 설치는 시나리오입니다. Boston Dynamics나 Figure 같은 기업들이 하드웨어를 완성하는 동안, Anthropic 같은 연구소들은 그 안을 채울 소프트웨어, 즉 세계 모델과 추론 엔진을 구축하고 있습니다. Project Glasswing은 우리가 미래를 설계하고 있는 소프트웨어 기반 자체가 근본적으로 취약하다는 사실에 대한 뒤늦은 고백입니다. 허리케인이 상륙하기 전, 서둘러 덧창을 내리고 빗장을 거는 행위와 같습니다.
그래서, 우리는 2026년을 맞이할 준비가 되었나?
2026년 AGI 도래설은 테크계의 가장 뜨거운 감자입니다. Elon Musk 같은 인물은 이 짧은 타임라인을 지지하는 반면, 다른 이들은 2030년에 더 가까울 것이라 예측하기도 합니다. 하지만 정확한 날짜가 언제든, 이제 질문은 ‘만약’이 아니라 ‘언제’로 옮겨갔습니다.
Project Glasswing 같은 시도는 우리에게 냉혹한 현실을 일깨워줍니다. 이는 ‘통제 문제(Control Problem)‘를 해결하려는 가장 진지한 시도 중 하나입니다. 인간보다 훨씬 똑똑한 시스템이 어떻게 인간의 가치와 명령을 따르게 만들 것인가 하는 문제 말이죠. Anthropic의 전략은 AI의 힘을 빌려 우리 디지털 토대의 균열을 찾아내고 메우는 것입니다. 통제되지 않는 AGI가 허점을 발견하기 전에 사회 인프라를 먼저 요새화하려는 속도전입니다.
이것은 영화에서 보는 것처럼 AI의 의식에 대해 논하는 우아하고 철학적인 논쟁이 아닙니다. 행성 단위로 벌어지는, 투박하고도 치열한 사이버 보안 전쟁입니다. 미래의 운영체제에 우리가 이해할 수 없는 지능이 파고들 뒷문(backdoor)이 없도록 보장하는 일이죠. Project Glasswing이 무서운 이유는 그 프로젝트 자체 때문이 아니라, 그것이 예고하는 미래 때문입니다. 세계에서 가장 똑똑한 사람들이 조용히, 그리고 아주 절박하게 문을 잠그고 있는 소리가 들립니다. 우리가 바랄 수 있는 건 단 하나, 저 너머에 있는 무언가가 문 따는 법을 배우기 전에 이 작업이 끝나기를 기도하는 것뿐입니다.