사흘 만에 사라진 AI, 통제권은 누구에게 있었나

지난 6월 9일, 미국의 AI 기업 앤트로픽이 새 모델을 공개했다. 이름은 클로드 Fable 5. 회사는 "지금까지 일반에 공개한 모델 중 가장 강력하다"고 밝혔다. 소프트웨어 개발, 데이터 분석, 복잡한 문서 작업에서 기존 모델을 크게 앞선다는 설명이었다. 실제로 써 본 이용자들의 반응도 뜨거웠다. 공개 직후 며칠간 사회관계망서비스(SNS)에는 복잡한 자료 정리부터 코딩까지 직접 활용해 봤다는 호평이 줄을 이었다. 필자도 공개 기간에 직접 써 보았다. 간단한 웹사이트의 첫 화면을 만들어 보았는데, 맥락을 읽어내는 힘이 그동안 쓰던 도구와 확연히 달라 적잖이 놀랐다.

그런데 사흘 뒤인 6월 13일 금요일 오후, 이 모델이 전 세계에서 사라졌다. 미국 상무부가 수출통제 명령을 내린 것이다. 명분은 국가안보였다. 외국인은 누구도 Fable 5와 상위 모델 Mythos 5에 접근할 수 없다는 내용이었다. 앤트로픽은 자사 직원 중 외국인도 이 명령의 대상에 포함된다는 사실을 확인하고, 선별 차단이 불가능하다고 판단했다. 결국 전 세계 모든 이용자에게 두 모델을 내렸다. 한국 이용자도 그 순간 접속이 끊겼다.

앤트로픽은 이 조치에 동의하지 않는다고 밝혔다. "이 기준을 업계 전체에 적용하면 모든 프런티어 모델의 배포가 사실상 중단될 것"이라며, 정부의 개입 방식에 이의를 제기했다. 아이러니하게도 앤트로픽은 출시 직전, 주요 AI 연구소들이 함께 프런티어 모델 개발 속도를 늦추자고 공개적으로 촉구했던 참이었다. 속도를 늦추자고 말한 회사가, 막상 정부가 브레이크를 밟자 그 방식에 반발한 셈이다.

이 사건이 드러낸 건 모델의 성능 문제가 아니다. 우리가 '쓰고 있다'고 생각했던 도구가, 실제로는 다른 나라 정부의 결정에 따라 언제든 차단될 수 있다는 사실이다. 인도 AI 스타트업 사르밤의 CEO는 이 사건을 두고 "접근과 소유를 혼동하지 말라"고 했다. 구독료를 내고 쓴다고 해서 그 도구를 온전히 통제할 수 있는 건 아니라는 뜻이다. 그 현실은 전북에서도 마찬가지다. 전북의 소상공인은 가게 홍보물을, 강사는 수업 자료를, 학생은 과제를 해외 AI 도구에 기대어 만든다. 우리는 그동안 'AI를 다룰 줄 아는 사람'이 되자고 거듭 말해 왔다. 그런데 그렇게 익숙해진 도구가 어느 날 남의 나라 결정으로 멈춘다면, 멈추는 것은 실리콘밸리가 아니라 전주의 가게이고 완주의 교실이다. 도구를 잘 다루는 일과, 그 도구를 우리가 통제하는 일은 분명히 다른 문제다. 더구나 쓰던 도구가 하루아침에 끊겼을 때 곧바로 대신할 것을 찾기 어려운 이에게는, 그 멈춤이 한층 무겁게 다가온다.

그래서 소버린 AI 논의가 필요하다. 소버린 AI란 외부 의존 없이 독자적으로 개발·운영할 수 있는 AI 역량을 말한다. 한국 정부가 독자 AI 모델 개발에 재정을 투입하고, 올 11월 전 국민 무료 서비스 '모두의 AI' 출시를 추진하는 것도 같은 맥락이다. 물론 국산 모델의 성능은 아직 글로벌 프런티어와 격차가 있고, AI 개발에 필수적인 반도체는 여전히 수입에 의존한다. '완전한 독립'이 아니라 '의존의 정도를 낮추는 일'이다. 그러나 이번 사건은, 그 방향이 왜 필요한지를 말보다 선명하게 보여줬다.

한편 이 사안은 현재진행형이다. 앤트로픽 기술팀은 6월 12일부터 백악관 관계자들과 협상을 이어가고 있으며, "오해가 있었다"며 모델 복구를 추진 중이다. 어떤 결론이 나오든, 이번 사건이 남긴 질문은 쉽게 닫히지 않는다. 도구는 돌아올 수 있다. 그러나 통제권은 처음부터 우리에게 없었다.

* 용어 설명

탈옥(jailbreak): AI 모델이 답변을 거부하도록 설계된 안전장치를 우회하는 방법을 말한다. 예를 들어 모델이 특정 위험 정보를 제공하지 않도록 설계되어 있더라도, 특수한 방식으로 질문을 구성하면 그 제한을 피해 답변을 끌어낼 수 있다. 이번 사건에서 미국 정부는 Fable 5에서 이런 탈옥 가능성이 발견됐다고 주장했다.

소버린 AI(Sovereign AI): 특정 국가나 기관이 외부에 의존하지 않고 독자적으로 개발·운영·통제할 수 있는 AI 시스템 또는 그 역량을 말한다. 데이터 주권, 기술 자립, 안보 등의 이유로 주요국이 자국 AI 모델 개발에 나서면서 주목받는 개념이다.

-------------------

박선례

글로컬빌리지협동조합 이사장

전북대학교 평생교육 및 HRD 석사

AI 활용교육 전문강사