미국 정부가 앤트로픽(Anthropic)의 최신 AI 모델에 대해 사실상 사용 중단을 명령한 사건이 “AI 탈옥(jailbreak)”을 막기 위한 조치였다는 해석과 달리, 더 넓은 보안·국가안보 맥락에서 추진됐을 가능성이 제기됐다. TechCrunch에 따르면 미국 상무부가 앤트로픽에 보낸 집행 서한은 Fable 5와 Mythos 5의 외국인 접근을 금지하는 수출통제 지침에 근거했으며, 앤트로픽 측은 구체적 근거를 충분히 제공받지 못한 채 모델을 모든 고객 대상에서 끊어야 했다. The Verge는 정부 명령이 이례적으로 광범위하고 신속하게 내려졌다고 전하면서, 이번 일이 미국이 첨단 AI를 쥐고 있는 만큼 “누가 쓸 수 있는지”를 정부가 통제할 수 있음을 다시 보여줬다고 평가했다.
문제의 핵심은 지난 6월 12일(보도 기준) 내려진 명령이다. 앤트로픽은 Fable 5와 Mythos 5가 6월 9일 출시 직후부터 “고위험 영역”에서의 사용을 제한하는 안전장치가 적용돼 있었다고 설명해 왔다. 그런데 정부는 외국인(비미국인)뿐 아니라 앤트로픽 자체 직원까지 포함해 해외 접근을 차단하라는 방향으로 조치를 단행했고, 결과적으로 앤트로픽은 주말 직전 두 모델의 고객 접근을 전면 중단했다. The Verge에 따르면 앤트로픽은 이번 조치가 “특정한 탈옥 가능성” 하나만으로 상용 모델을 즉시 철수해야 하는 사유가 될 수 있는지에 동의하지 않는다는 입장을 내면서도, “정부의 법적 지시를 준수하기 위해” 모델 접근을 전부 제거했다고 밝혔다.
“탈옥” 논점은 일부에 불과했다는 지적
TechCrunch는 이번 조치의 직접 원인이 “탈옥을 막기 위한 기술적 보안 문제”가 아니라는 점을 강조한다. 보도에 따르면 미 정부의 서한은 ‘모델 가드레일(안전장치) 우회’ 같은 구체적 기술 사유를 명확히 공개하지 않은 채, 수출통제 지침을 근거로 비미국인이 모델에 접근하지 못하도록 만들었다. 문제는 서한이 공개되지 않았고, 앤트로픽이 자신들에게 어떤 위협 시나리오가 적용됐는지 충분히 특정 정보를 받지 못했다는 점이다.
특히 사이버보안 연구자이자 Luta Security 설립자인 케이티 무수리스(Katie Moussouris)는 TechCrunch 보도에서 인용된 글을 통해, 앤트로픽이 최근 자신에게 가드레일 우회 관련 논문 사본을 공유했으며 그 논문이 “가드레일 우회를 실제로는 수정할 수 없을 정도”로 기술적으로 설계 결함에 가깝다는 견해를 제시했다고 전했다. 무수리스에 따르면 연구진이 제시한 우회는 단순히 “보안 관점에서 코드를 점검하게 하는 수준”과 “코드를 실제로 고치게 만드는 수준” 사이의 질의 차이에서 발생하며, 결과적으로 우회 자체는 의미 있게 완화하기 어렵다는 논지다. 또한 그런 방식의 우회가 확인됐더라도, 방어 목적의 모델 성능을 약화시키는 방향으로 안전장치를 다루면 오히려 역효과가 날 수 있다고 비판했다.
해외 접근 통제: 보안 역량의 ‘수출’이 된다는 우려
이번 사건에서 가장 파급력이 큰 대목은 “가드레일 우회” 논쟁을 넘어, 고도화된 모델이 사실상 사이버 보안 역량—혹은 그에 준하는 공격·방어 실무 능력—으로 간주되기 시작했다는 점이다. TechCrunch는 과거에도 미국 정부의 포괄적 표현이 사이버보안 도구·지식의 정당한 연구까지 제약하는 부작용을 낳았던 사례가 있었다고 짚는다. 이번 명령 또한, 특정 취약점 검증이 아니라 “상용 모델의 접근을 끊어야 할 정도의 국가안보 위험”으로 해석되면서 업계의 긴장감을 키웠다.
The Verge는 이번 조치가 외국인 접근을 막기 위한 것이었다는 점에서, 해외에서 미국의 AI 모델을 활용하려던 기관과 개발자들이 받을 충격이 더 클 수 있다고 지적한다. 아울러 The Verge는 앤트로픽이 애초에 “고위험 영역에서의 제한”을 전제로 모델을 공개했는데도, 정부가 추가 조치로 전면 중단을 택했다는 사실이 미국 정부의 집행 방식이 얼마나 신속·광범위했는지 보여준다고 전했다.
업계에 남는 메시지: 규제 리스크는 곧 제품 리스크
TechCrunch는 이번 명령이 단지 특정 회사의 문제를 넘어, “미국 내 기술 기업이든 AI 연구소든 예외가 없다”는 경고가 될 수 있다고 해석한다. 즉, 법적 절차나 법원 판단과 같은 통상적 시간표 없이 정부 권한이 즉각 작동할 수 있으며, 그 결과 모델·서비스가 단기간에 꺼질 수 있다는 사실이 업계 전체의 리스크 관리 방식에 영향을 줄 수 있다는 것이다.
한편 The Verge는 이번 이슈를 “미국이 첨단 AI를 주도하는 동시에, 그 사용 가능성을 정부가 좌우할 수 있다는 현실”로 연결해 설명한다. 이러한 상황은 동맹국과 파트너 기업들 사이에서 “중요 기술에 미국 의존을 어느 정도까지 해야 하는가”라는 논쟁을 한층 재점화할 수 있다. 특히 수출통제가 기술적 업데이트나 사후 조치가 아니라 접근 자체를 끊는 형태로 나타날 경우, 개발자·기업·공공기관의 장기 계약과 운영 계획에도 불확실성이 커진다.
무엇을 지켜봐야 하나
앞으로는 첫째, 이번 조치의 근거가 얼마나 구체적으로 정리되고 공개될지(또는 일부라도 법적·기술적 설명이 추가될지)가 관건이다. 현재까지는 정부 서한이 비공개로 남아 있어, 앤트로픽과 외부 연구자들이 “왜 어떤 위험이 수출통제 수준으로 분류됐는지”를 명확히 검증하기 어렵다는 문제가 제기돼 왔다.
둘째, 앤트로픽이 모델을 다시 제공할 경우 어떤 조건이 붙는지—가드레일 강화의 방식, 접근 대상(국가·신분)의 범위, 안전장치 검증 절차—가 업계의 기준점이 될 가능성이 크다. 마지막으로 이번 논쟁은 AI가 사이버보안 분야에서 ‘공격 도구’로 악용될 수 있다는 우려와, 동시에 ‘방어 연구’에 필수인 지식·도구라는 현실 사이에서 규제가 어디까지 확장될지 보여주는 시험대가 될 전망이다.
댓글