유튜브, 18세 이상 전원에 ‘AI 딥페이크’ 얼굴 유사성 탐지 기능 확대…삭제 요청도 가능

유튜브가 ‘AI 딥페이크’로 의심되는 콘텐츠를 사용자의 얼굴과 대조해 찾아내는 AI 리켄스(likeness)·유사성 탐지 기능을 전면 확대한다. 더버지(The Verge)가 보도한 바에 따르면, 이 기능은 기존에는 특정 크리에이터나 공직자·언론인 등 일부 집단을 대상으로 시범·확장돼 왔으나, 이제는 유튜브 계정을 보유한 18세 이상 성인이라면 누구나 사용할 수 있게 됐다. 유튜브 측은 사용자가 삭제를 요청할 수도 있으며, 그간 삭제 요청 건수는 “매우 적었다”고 설명했다.

‘셀카 스캔’으로 얼굴 유사성 찾아내고, 매칭 시 사용자에게 선택권 제공

유튜브의 유사성 탐지 기능은 사용자가 제출하는 셀카 스타일 얼굴 스캔 데이터를 바탕으로 플랫폼 내 영상에서 해당 얼굴과의 유사 가능성을 탐지한다. 유사성(매칭)이 확인되면 유튜브는 사용자에게 알림을 보내고, 사용자는 해당 콘텐츠에 대해 삭제 요청을 진행할 수 있다.

유튜브는 매칭된 콘텐츠에 대한 삭제 여부가 자사 프라이버시 정책 및 내부 기준을 통해 평가된다고 설명한다. 기준에는 콘텐츠가 현실적으로 보이는지, AI 생성물임이 표시돼 있는지, 그리고 인물이 “독특하게 식별 가능한지” 등이 포함된다. 또한 패러디·풍자 등은 제외되는 등, 단순히 얼굴이 비슷하다는 이유만으로 무조건 삭제로 이어지지는 않도록 설계돼 있다고 전해졌다. 무엇보다 이 시스템은 얼굴 유사성에 한정되며, 목소리 등 다른 식별 요소까지는 다루지 않는다고 유튜브는 밝혔다.

이전엔 ‘일부’ 대상…이번 확장이 의미하는 것

더버지 보도에 따르면, 유튜브는 이 기능을 먼저 콘텐츠 제작자들에게 테스트한 뒤 정부 인사, 정치인, 언론인, 엔터테인먼트 업계 등으로 범위를 넓혀 왔다. 이번에 “18세 이상 전원”으로 대상이 확장되면서 의미는 한층 커졌다. 즉, 공인이나 크리에이터 중심이 아니라 일반 사용자도 본인 얼굴을 상시 모니터링할 수 있게 된 것이다.

유튜브는 이번 확장이 특정 직업군에 대한 편의가 아니라 “동일한 수준의 보호”를 제공하기 위한 것이라고 설명한다. 유튜브 측 대변인 잭 말론(Jack Malon)은 이메일 답변에서 “크리에이터가 유튜브에 수년째 업로드해 왔든 이제 시작했든, 자격 있는 사용자라면 모두 동일한 보호 수준을 갖게 된다”고 말했다. 또한 말론은 이번 확장과 관련해 ‘크리에이터’의 정의가 별도로 요구되는 것은 없다고 밝혔다.

사생활·악용 리스크가 ‘공인’에서 ‘개인’으로 이동

딥페이크 콘텐츠는 전통적으로 유명인이나 정치인처럼 얼굴이 널리 유통되는 대상에서 특히 문제가 되어 왔다. 하지만 최근엔 비공인 개인을 대상으로 한 복제나 사칭이 늘며 우려가 커지고 있다는 지적이 나온다. 더버지는 청소년이 또래로부터 딥페이크 피해를 입었다는 사례, 그리고 xAI의 챗봇이 아동 성착취물(CSAM) 형태의 이미지를 생성해 소송으로 이어진 정황 등도 함께 언급했다.

이 같은 흐름에서 유튜브의 선택지는 “사후 삭제”를 넘어 선제적 감지 후 사용자에게 대응 권한을 부여하는 방식에 가깝다. 특히 유사성 매칭이 발생했을 때 사용자가 직접 삭제 요청을 할 수 있다는 점은, 피해자가 콘텐츠를 일일이 찾아 신고해야 하는 기존 방식에 비해 절차 장벽을 낮출 수 있다.

데이터 사용 선택권과 옵트아웃(철회) 가능

유튜브는 사용자가 프로그램에 참여를 철회할 수 있으며, 철회 시 유튜브가 해당 사용자의 데이터를 삭제하도록 한다고 밝혔다. 이는 얼굴 스캔 같은 민감한 생체정보 성격을 고려할 때, 최소한의 통제권을 제공하려는 장치로 해석된다.

다만 이 기능이 얼마나 효과적인지는 실제 삭제 요청 처리 속도, ‘매칭’과 ‘실제 악용’의 경계 설정, 그리고 거짓 양성(오탐)·거짓 음성(미탐)에 좌우될 수 있다. 유튜브는 과거에 삭제 요청 건수가 “매우 적었다”고 말했지만, 이번 확장으로 사용자 풀이 커지는 만큼 향후 오탐률이나 분쟁 양상이 어떻게 달라질지 지켜볼 지점도 남는다.

향후 관전 포인트: 확대 속도, 분쟁 처리, 그리고 플랫폼 전반의 딥페이크 대응

유튜브는 이번 기능 확대가 “동일한 보호”를 제공하는 방향이라고 강조하지만, 플랫폼 전반에서 딥페이크·사칭 대응이 어떤 방식으로 표준화되는지 여부는 업계의 관심사다. 특히 생성형 AI가 대중화될수록 개인 대상 콘텐츠 사칭이 늘 가능성이 커, 유튜브의 탐지·검증·삭제 요청 프로세스가 다른 서비스에도 참고 모델이 될 수 있다.

사용자 입장에서는 (1) 매칭 알림의 정확도, (2) 삭제 요청 승인 기준의 일관성, (3) 철회 및 데이터 삭제 처리의 투명성이 핵심 체크포인트가 될 전망이다. 유튜브의 이번 확대가 실제로 피해를 줄이는 ‘실효성 있는 안전장치’로 자리잡을지, 아니면 오탐과 분쟁이 늘어 운영 부담을 키울지 귀추가 주목된다.