구글 딥마인드의 데미스 허사비스 최고경영자가 고도화되는 인공지능을 관리하기 위한 별도 국제 감시기구 설립을 공개적으로 제안했다. 그는 프런티어 AI 모델이 사회적 위험을 키울 수 있는 단계에 이르렀다고 보고, 미국이 기술력과 경제적 영향력을 바탕으로 새 기구를 주도해야 한다고 주장했다.
허사비스의 제안은 단순한 자율 규범을 넘어선다. 그는 독립 전문가와 오픈소스 커뮤니티 대표 등이 참여하는 기관이 최첨단 모델을 출시 전에 평가하고, 위험성이 지나치게 크다고 판단되면 업계 전반의 배포 속도를 늦추는 조정 권한까지 가져야 한다는 구상을 내놨다.
출시 전 평가와 속도 조절 권한이 핵심
제안의 중심에는 프런티어 모델에 대한 사전 점검이 있다. AI 기업들이 더 큰 모델을 빠르게 공개하는 경쟁을 벌이는 상황에서, 사후 대응만으로는 악용 가능성이나 예측하기 어려운 부작용을 충분히 막기 어렵다는 판단이다. 허사비스는 기존 금융 분야의 자율규제 기구처럼 산업 전문성과 공적 감시를 결합한 형태를 염두에 둔 것으로 알려졌다.
그가 특히 강조한 부분은 속도 조절이다. 특정 기업의 제품 출시를 막는 규제기관이라기보다, 여러 개발사가 동시에 위험 신호를 인지하고 경쟁 압력을 줄일 수 있는 공통 장치를 만들자는 취지다. 이는 안전성 우려를 제기하면서도 시장 경쟁에서 뒤처질 수 있다는 기업들의 현실적 부담을 함께 겨냥한 제안으로 해석된다.
허사비스는 인공일반지능에 가까운 시스템이 몇 년 안에 등장할 수 있다고 전망하며, 지금이 제도적 틀을 마련해야 할 시점이라고 봤다. 그는 향후 수십 년 뒤 현재를 돌아보면 인류가 새로운 시대의 초입에 서 있던 시기로 평가할 수 있다고 표현했다.
미국 주도론이 낳을 논쟁
다만 미국 주도 감시기구라는 방향은 국제 정치적 논쟁을 부를 수 있다. 유럽연합은 이미 포괄적 AI 규제 체계를 마련해 시행을 준비해 왔고, 각국은 자국 산업과 안보 이익을 반영한 규칙을 원한다. 미국이 표준을 주도할 경우 글로벌 기업에는 예측 가능성이 커질 수 있지만, 다른 국가에는 기술 질서가 한쪽으로 기울 수 있다는 우려가 남는다.
보도에 따르면 허사비스는 미국 행정부와 다른 AI 연구소, 유럽 당국자들을 상대로 물밑 논의를 이어 왔으며 연내 기구 출범을 희망하고 있다. 그가 들은 미국 측 반응도 긍정적이었다고 전해졌다. 실제 제도화까지 이어질지는 정부의 정치적 의지와 업계의 참여 범위에 달려 있다.
AI 거버넌스 논의는 최근 경제적 충격과 생물안보 위험 등으로 빠르게 확장되고 있다. 허사비스는 AI 기반 단백질 구조 예측 공로로 2024년 노벨 화학상을 공동 수상한 인물이며, 지난달에는 AI가 생물무기 제작에 악용될 가능성에 대비해야 한다는 성명에도 이름을 올렸다.
이번 제안은 AI 기업 내부에서조차 강력한 안전장치가 필요하다는 인식이 커지고 있음을 보여준다. 그러나 감시기구가 실효성을 갖추려면 평가 기준, 기밀 모델 정보 접근권, 오픈소스 모델의 처리 방식, 각국 규제와의 관계를 구체적으로 정해야 한다. 기술 발전 속도만큼이나 규칙을 설계하는 속도도 중요한 경쟁 변수가 되고 있다.
댓글