샌프란시스코시가 애플과 구글에 이른바 ‘누디파이’ 앱을 앱스토어에서 삭제하라고 요구했다. 이들 앱은 인공지능을 이용해 사진 속 인물을 동의 없이 노출된 모습처럼 조작하는 도구로, 비동의 성적 딥페이크 이미지 확산의 핵심 통로로 지목돼 왔다.
테크크런치 보도에 따르면 데이비드 치우 샌프란시스코 시 검사장은 두 회사에 보낸 서한에서 앱 장터에 남아 있는 관련 앱들이 캘리포니아 법을 위반할 소지가 있다고 밝혔다. 캘리포니아는 비동의 딥페이크 성착취물 제작을 알면서 돕거나 부주의하게 조력하는 행위를 처벌할 수 있도록 규정하고 있다.
쟁점은 단순히 문제가 되는 앱 몇 개를 삭제하는 데 그치지 않는다. 시 당국은 애플과 구글이 해당 앱의 존재를 이미 통보받았고, 결제 처리와 수수료를 통해 수익을 얻었다는 점을 문제 삼고 있다. 플랫폼이 콘텐츠 유통 창구를 넘어 거래 인프라까지 제공했다면 책임 범위가 넓어질 수 있다는 논리다.
앱 심사와 결제 책임이 핵심 쟁점
치우 검사장 측은 두 회사가 관련 앱을 반복적으로 경고받았다고 주장했다. 기술 감시 단체인 테크 트랜스패런시 프로젝트도 올해 초와 봄에 앱스토어 안에서 비동의 성적 이미지 생성을 판매하는 앱이 다수 발견됐다고 지적한 바 있다. 이 단체는 일부 추천과 검색 구조가 사용자에게 문제 앱을 노출시키는 데 기여했다고 비판했다.
애플과 구글은 앱 생태계에서 보안과 신뢰를 앞세워 왔다. 그러나 이번 사안은 인공지능 기반 앱이 빠르게 늘어나는 상황에서 기존 심사 체계가 피해 위험을 충분히 걸러내고 있는지 묻는다. 특히 이미지 조작 기술은 유명인뿐 아니라 공개 사진이 있는 일반인도 표적으로 삼을 수 있어 피해 범위가 넓다.
캘리포니아는 2025년 피해자가 이런 자료의 제작과 유통을 도운 제3자를 상대로 민사 소송을 제기할 수 있는 근거도 마련했다. 시 당국의 서한은 두 회사가 28일 안에 접촉하라고 요구하면서, 법 위반이 인정될 경우 민사상 제재가 뒤따를 수 있다고 경고한 것으로 전해졌다.
AI 안전 논의가 앱 장터 규제로 이동
이번 조치는 생성형 AI 규제가 모델 개발사나 웹사이트 운영자에만 머물지 않고 앱 유통 플랫폼으로 확장되고 있음을 보여준다. 앱스토어는 이용자 접근성과 결제 편의성을 제공하는 동시에, 앱을 신뢰할 수 있다는 신호를 주는 관문 역할을 한다. 따라서 불법적 용도의 AI 도구가 앱 장터에 올라오는 순간 플랫폼의 관리 책임 논의가 불가피해진다.
기업 입장에서는 앱 심사 기준을 더 세분화하고, 이미지 조작·성적 콘텐츠·동의 여부와 관련한 위험 신호를 자동·수동 심사에 반영해야 하는 부담이 커질 수 있다. 결제 처리 중단, 검색 노출 제한, 개발자 계정 제재 같은 사후 조치도 더 빠르게 요구될 가능성이 있다.
피해자 보호 측면에서는 플랫폼의 선제 대응이 중요하다. 비동의 딥페이크 이미지는 한 번 유통되면 삭제가 어렵고, 검색과 재게시를 통해 피해가 반복될 수 있다. 이번 요구가 실제 앱 삭제와 제재로 이어질 경우, 다른 지방정부와 규제기관도 유사한 방식으로 대형 앱 장터에 책임을 묻는 사례가 늘어날 수 있다.
애플과 구글은 보도 시점 기준 테크크런치의 논평 요청에 즉각적인 입장을 내놓지 않았다. 다만 이번 사안은 AI 앱 생태계가 성장할수록 플랫폼이 어떤 기준으로 위험한 기능을 차단하고, 피해 발생 뒤에는 어느 정도까지 책임져야 하는지를 가늠하는 시험대가 될 전망이다.
댓글