인스타그램이 AI로 만들어진 콘텐츠를 어떻게 다룰지를 두고 다시 논쟁의 중심에 섰다. 애덤 모세리 인스타그램 대표는 최근 팟캐스트 인터뷰에서 AI 콘텐츠를 플랫폼에서 일괄적으로 걸러내는 방식에는 선을 그으면서도, 이용자가 원하지 않는다면 피드에 보이지 않아야 한다는 취지의 입장을 밝혔다. 이는 AI 콘텐츠 자체를 금지하기보다 추천 시스템과 표시 정책을 조정해 이용자 선택권을 넓히겠다는 방향으로 읽힌다.
모세리는 AI 콘텐츠인지 아닌지를 이용자에게 알려주는 것이 필요하다고 말했다. 다만 그는 AI 콘텐츠를 모두 배제하는 필터를 기본 정책으로 삼는 데에는 부정적이다. AI 콘텐츠를 선호하는 이용자라면 그런 게시물만 모아 볼 수 있어야 하고, 반대로 선호하지 않는 이용자에게는 노출을 줄일 수 있어야 한다는 논리다. 핵심은 금지보다 분류와 추천의 문제라는 설명이다.
금지보다 라벨링, 그러나 탐지는 쉽지 않다
현재 인스타그램뿐 아니라 틱톡, 유튜브, 페이스북 등 주요 플랫폼은 AI 생성 콘텐츠에 라벨을 붙이는 방향으로 대응하고 있다. 문제는 라벨링이 늘 정확하게 작동하기 어렵다는 점이다. 생성형 AI 모델의 품질이 빠르게 높아지면서 플랫폼이 이미지나 영상의 제작 방식을 판별하기가 점점 까다로워지고 있다. 모세리도 AI 콘텐츠를 감지하는 작업이 어렵고, 시간이 지날수록 플랫폼이 이를 알아채는 능력을 잃을 수도 있다고 인정했다.
그가 제시한 대안 중 하나는 이용자가 특정 게시물에 대해 AI 여부를 물었을 때 플랫폼이 확률적으로 답하는 방식이다. 확실한 AI 콘텐츠인지, 아닐 가능성이 큰지, 또는 판단이 어려운지를 알려주는 식이다. 또 다른 접근은 AI로 만들어진 것을 찾기보다 카메라로 촬영된 원본 콘텐츠를 인증하는 방식이다. 이는 지난해부터 업계에서 거론돼 온 실제 미디어 검증 논의와도 맞닿아 있다.
이용자 선택권과 플랫폼 책임의 충돌
이번 발언은 AI 콘텐츠를 둘러싼 이용자 피로감이 커지는 가운데 나왔다. 일부 이용자는 피드에 사실과 구분하기 어려운 이미지, 반복적인 밈, 낮은 품질의 자동 생성 게시물이 늘어난다고 느낀다. 반면 창작자와 플랫폼 입장에서는 AI 도구가 새로운 표현 수단이자 참여를 늘리는 기능이 될 수 있다. 인스타그램이 어느 한쪽을 완전히 배제하기 어려운 이유다.
하지만 선택권만으로 모든 문제가 해결되는 것은 아니다. 메타는 AI 이미지 생성 기능을 확대하면서 다른 이용자를 태그해 AI 창작물에 포함시키는 기능도 내놓았다. 이 기능은 창작의 재미를 키울 수 있지만, 동시에 명의 도용, 괴롭힘, 성적 악용, 신원 사칭 같은 위험을 낳을 수 있다는 비판을 받는다. AI 콘텐츠가 단순한 취향 문제가 아니라 안전과 권리 보호 문제로 번지는 지점이다.
인스타그램의 과제는 명확하다. AI 콘텐츠를 좋아하는 이용자와 피하고 싶은 이용자가 같은 플랫폼 안에서 충돌하지 않도록 추천 시스템을 세밀하게 조정해야 한다. 동시에 AI로 만든 게시물의 출처와 제작 방식을 투명하게 알리고, 악용 가능성이 큰 기능에는 빠른 신고와 제재 장치를 붙여야 한다. 라벨이 부정확하거나 추천 제어가 충분하지 않다면 이용자는 플랫폼의 설명을 신뢰하기 어렵다.
이번 모세리의 발언은 인스타그램이 AI 콘텐츠를 플랫폼 성장의 일부로 받아들이되, 이용자에게 최소한의 통제권을 제공해야 한다는 압박을 인식하고 있음을 보여준다. 앞으로의 쟁점은 AI 콘텐츠를 얼마나 많이 허용하느냐가 아니라, 이용자가 자신의 피드를 얼마나 실제로 조정할 수 있느냐다. 표시, 탐지, 추천, 보호 장치가 함께 작동하지 않는다면 AI 피드 논쟁은 계속 커질 가능성이 높다.
댓글