유럽연합(EU)이 인공지능과 생성형 콘텐츠의 출처를 더 쉽게 알아볼 수 있도록 하는 새 투명성 의무를 시행했다. 이용자가 사람과 대화하는지, AI 시스템과 상호작용하는지 알 수 있게 하고, 인공지능이 만들거나 변형한 콘텐츠에는 이를 식별할 단서를 남기도록 하는 것이 핵심이다. 생성형 AI가 일상 서비스에 빠르게 들어오는 상황에서 신뢰의 기준을 정하려는 조치로 평가된다.
이번 의무는 EU의 인공지능법(AI Act)에 담긴 투명성 규정의 적용이 시작된 데 따른 것이다. 규정은 AI 시스템을 개발해 시장에 내놓는 사업자와, 이를 서비스에 적용하는 플랫폼·운영자를 구분한다. 다만 대형 기술기업처럼 모델을 만들면서 직접 서비스를 운영하는 곳은 두 역할의 책임을 함께 질 수 있다.
사람과 AI의 경계를 알리는 고지
AI 제공자는 이용자가 인간이 아닌 AI와 상호작용하고 있다는 사실을 명확히 알 수 있도록 시스템을 설계해야 한다. 대화형 서비스에서 상대가 챗봇이라는 점이 분명하지 않다면 고지가 필요하다는 뜻이다. 음성·이미지·영상·텍스트처럼 합성 또는 조작될 수 있는 결과물에는 기계가 읽을 수 있는 표시도 포함해야 한다.
표시는 단순한 장식이 아니라, 이용자가 정보의 성격을 판단할 수 있게 하는 장치다. 실제 사람의 발언이나 사진처럼 보이는 콘텐츠가 AI로 만들어졌다는 사실을 알면, 이용자는 내용의 신뢰도와 맥락을 다시 살필 수 있다. EU 집행위원회는 이런 정보가 오인과 기만을 줄이고, 이용자가 AI에 의존하는 정도를 조절하는 데 도움이 된다고 설명한다.
딥페이크에는 플랫폼 책임도
특히 실제처럼 보이도록 제작된 AI 생성·변형 이미지, 음성, 영상에는 더 직접적인 표시 요구가 적용된다. 서비스를 운영하는 배포자나 플랫폼은 이른바 딥페이크 콘텐츠에 라벨을 붙여야 한다. 기술적으로 콘텐츠를 만든 주체와 이를 이용자에게 보여 주는 주체가 다를 수 있다는 점에서, 규정은 유통 단계의 역할도 함께 겨냥한다.
집행위원회는 사업자가 활용할 수 있는 공통 AI 표시 아이콘 예시도 마련했다. 해당 아이콘 자체를 반드시 사용해야 하는 것은 아니지만, 표시 의무까지 선택 사항인 것은 아니다. 플랫폼마다 제각각인 문구와 디자인을 쓰는 대신, 이용자가 여러 서비스에서 비슷한 신호를 인식할 수 있도록 하려는 취지다.
실무에서는 표시의 위치와 표현 방식, 자동 탐지 가능한 메타데이터의 유지 여부가 관건이 될 전망이다. 콘텐츠가 다른 서비스로 옮겨가거나 재편집될 때도 AI 생성·변형 사실을 추적할 수 있어야 하기 때문이다. 이용자 경험을 해치지 않으면서도 쉽게 알아볼 수 있는 고지를 설계하는 일은 서비스 사업자에게 새로운 운영 과제가 됐다.
위반 시 제재와 유예 기간
규정을 따르지 않으면 최대 1천500만 유로 또는 전 세계 연간 매출의 3% 가운데 기준에 따라 산정되는 제재를 받을 수 있다. 새로 출시되는 AI 시스템에는 규정이 바로 적용된다. 다만 8월 2일 이전에 출시된 모델과 서비스에는 12월 2일까지 4개월의 적응 기간이 주어진다.
이번 변화가 곧바로 모든 허위정보 문제를 해결하는 것은 아니다. 라벨이 있어도 이용자가 이를 보지 못하거나, 악의적 이용자가 표시를 제거하려 할 가능성은 남아 있다. 그럼에도 AI와 사람이 만든 정보를 구분할 최소한의 공통 언어를 만들었다는 점에서 의미가 있다. 표시 의무는 콘텐츠의 진위를 단정하는 도구라기보다, 이용자에게 한 번 더 확인할 근거를 제공하는 장치에 가깝다.
EU의 규정은 유럽에서 서비스를 제공하는 글로벌 기업의 제품 설계에도 영향을 줄 수 있다. 하나의 기능을 국가별로 다르게 운영하기보다, 더 엄격한 규칙을 전반적인 서비스 기준으로 채택할 유인이 생기기 때문이다. 앞으로는 AI 기능을 얼마나 자연스럽게 제공하느냐뿐 아니라, 그 기능과 결과물을 얼마나 투명하게 설명하느냐가 플랫폼 경쟁력의 중요한 요소가 될 것으로 보인다.
댓글