아마존 보안 연구가 촉발한 ‘안트로픽’ 모델 수출 통제…연쇄된 정치·안전 논쟁

아마존의 보안 연구와 앤트로픽(Anthropic) AI 모델 관련 정부 논의가 맞물리면서, 안트로픽의 강력 모델 두 종(Claude Fable 5, Mythos 5)에 대한 국제 접근이 제한되는 수출통제 조치가 내려졌다는 보도가 나왔다. 월스트리트저널(WSJ)에 따르면, 당시 제재를 이끈 수출통제 지시는 아마존의 사이버보안 연구 결과와 아마존 CEO 앤디 재시(Andy Jassy)의 정부 관계자 면담이 일부 배경으로 작용했다. 이런 가운데 동시에 미국 각 주(州) 법무장관이 오픈AI(OpenAI)를 상대로 조사에 착수하는 등, 생성형 AI를 둘러싼 규제 압박이 다시 한 단계 강화되는 흐름도 관측된다.

아마존, “공격에 악용 가능한 정보”를 찾아냈나

더 버지(The Verge)와 테크크런치(TechCrunch)의 보도에 따르면, WSJ가 인용한 내용은 “아마존 연구팀이 단계적 프롬프트를 통해 Fable 5가 사이버공격에 활용될 수 있는 정보를 내놓도록 유도했다”는 주장에 무게를 둔다. 즉, 모델의 취약점이 단순한 오류가 아니라, 악용 시나리오를 구체화할 수 있는 수준으로 나타났다는 문제의식이 정부 개입의 단초가 됐다는 것이다.

보도대로라면 아마존은 이러한 우려를 정부와 공유한 뒤, 안트로픽이 해당 모델에 대해 외국인 접근을 중단하도록 조치가 이어졌다. 다만 아마존 측은 “정부가 잠재적 보안 위험에 대해 조언을 구하는 것은 드문 일이 아니다”라면서도, 정부 논의의 세부 사항은 공개할 수 없다고 밝혔다. 안트로픽 역시 정부가 ‘탈옥(jailbreak)’으로 규정한 사안을 두고 반박 입장을 내놓았다.

정부의 ‘탈옥’ 주장 vs 안트로픽의 ‘일반 취약점’ 반박

더 버지가 전한 안트로픽의 입장에 따르면, 회사는 정부가 문제 삼은 행위가 특정 모델만의 고유 취약점이 아니라, 다른 공개 모델에서도 유사한 방식으로 발견될 수 있는 범주의 능력이라고 주장했다. 즉 “Fable 5에서 나타난 수준의 기능은 다른 모델에서도 재현 가능하다”는 논리다. 이는 정책 당국이 ‘해당 모델이 특별히 위험하다’고 본 것과 결이 다르다.

이 대립은 기술 보안 연구계에서도 엇갈린다. 예컨대 보도에 따르면 보안 분야 인사들이 “해당 논문을 봤지만, 정부가 주장하는 의미의 탈옥과는 다르다”는 취지로 안트로픽 쪽 해석에 힘을 싣는 발언을 내놓기도 했다. 한편 일부 전직 정부 관계자는, 행정부의 안트로픽에 대한 선호(또는 반감)가 결정 과정에 영향을 미쳤을 가능성을 시사했다.

또한 이번 조치가 단순히 ‘외부 사용자 차단’에서 끝나지 않을 수 있다는 점도 지적된다. 안트로픽 연구진 다수가 해외 출생자일 수 있어, 모델 접근 제한이 실제로는 연구 인력의 업무 수행까지 제약할 여지가 있다는 설명이 나온다.

정치권과의 충돌은 이미 예고돼 있었다

안트로픽과 미국 정부의 관계는 최근 몇 달 사이 여러 차례 마찰을 겪어왔다. 보도에 따르면 행정부는 한때 연방 기관에 안트로픽 AI의 사용 중단을 지시했고, 국방 관련 당국은 공급망 차원에서 안트로픽을 ‘리스크’로 지정하기도 했다. 반대로 정부와 회사가 일부 합의를 통해 접근을 넓히는 듯한 움직임도 있었지만, 이번 수출통제 조치로 인해 다시 충돌이 재점화되는 양상이다.

테크크런치는 별도의 보도에서, 앤디 재시가 재무장관 스콧 베센트(Scott Bessent)를 포함한 정부 인사들에게 “아마존 연구팀이 Fable 5로 사이버공격에 활용될 정보를 얻는 데 성공했다”는 취지의 우려를 전달했다는 정황을 전했다. 아마존은 세부 내용은 공유하지 않는다고 했지만, 적어도 ‘보안 우려가 정부로 전달됐고, 그 뒤에 수출통제 조치가 뒤따랐다’는 연결고리는 보도들에서 반복된다.

동시에 번지는 ‘AI 규제’…오픈AI 조사도 신호탄

이번 안트로픽 사안만큼이나, 규제 압박의 방향성을 보여주는 사건으로 테크크런치가 전한 “주(州) 법무장관 연합의 오픈AI 조사”가 함께 주목된다. 보도에 따르면, 오픈AI는 뉴욕주 법무장관의 요구를 담은 소환장(subpoena)을 받은 것으로 알려졌고, 여기에는 광고 집행, 사용자 참여 및 유지, 모델의 사이커피(sycophancy) 성향, 소비자 데이터 및 건강 데이터 처리, 미성년자와 고령자에 대한 접근 방식 등 광범위한 주제가 포함됐다.

오픈AI는 이번 조사에 대해 “우려를 진지하게 받아들이고, 해당 사무실들과 건설적으로 협의하겠다”고 밝혔다. 또한 미성년자 보호 장치, 연령 예측, 보호자 도구, 어린이를 겨냥한 광고 제한 등 자신들의 안전 조치도 강조했다.

무엇을 지켜봐야 하나

가장 즉각적인 관전 포인트는 안트로픽의 반발과 후속 조치다. 회사가 “특정 모델의 탈옥”이 아니라 “이미 공개 모델에서 가능한 취약성”이라고 주장하는 만큼, 정부가 어떤 기준으로 수출통제의 범위를 확정했는지—그리고 그 기준이 다른 모델에도 확장될지—가 핵심이다. 또한 이번 조치가 특정 모델의 기능을 제한하는 방식인지, 아니면 특정 사용자(국가·신분·접근 경로)까지 포괄하는지에 따라 산업 전반의 개발·배포 전략도 달라질 수 있다.

더 넓게는, 오픈AI에 대한 주(州) 단위 조사 흐름과 같은 ‘법 집행 중심의 규제’가 점차 확대될 가능성도 염두에 둬야 한다. 생성형 AI는 기술 안전성뿐 아니라 개인정보·광고·취약계층 보호 같은 영역에서 법적 리스크를 동시에 안고 있기 때문이다. 향후 몇 주~몇 달 사이, 각 기관이 어떤 문서와 데이터를 요구하는지, 그리고 이를 둘러싼 기업의 대응(공개 범위, 안전성 개선, 정책 수정)이 업계의 기준선을 새로 그릴 수 있다.