KAIST 연구진이 온라인 여론에 조직적으로 개입한 것으로 의심되는 계정 약 2만4000개를 탐지하고 판단 근거까지 제시하는 인공지능 기술을 개발했다. 대규모 댓글 데이터에서 활동 패턴을 찾되 특정 계정이 실제 외국 정부나 기관이 운영한 것이라고 단정하지 않았다는 점도 강조했다.
KAIST는 이원재 문화기술대학원 교수와 차미영·오혜연 전산학부 교수 연구팀이 독일 막스플랑크 보안·정보보호연구소의 토르스텐 홀츠 교수와 공동 연구를 수행했다고 12일 밝혔다. 결과는 국제학술대회 ‘유즈닉스 시큐리티 심포지엄 2026’에서 발표될 예정이다.
연구팀은 국가안보전략연구원이 공개한 외국 연계 의심 계정 70개를 출발점으로 삼았다. 이들과 팔로우 관계가 있거나 같은 기사에 반복해서 댓글을 작성한 이용자까지 연결해 활동을 추적했다.
댓글 1억1265만여건 분석
분석 대상은 2006년 4월부터 올해 3월까지 네이버 뉴스 이용자 404만여명이 작성한 댓글 1억1265만여건이다. AI는 작성 지역과 어색한 문법, 이용자명 같은 특징으로 해외 작성 가능성을 살피고, 댓글의 정서와 비판 대상인 국가·인물을 분류했다.
그 결과 외국 연계가 의심되는 계정 2만3998개가 확인됐다. 대선과 총선, 지방선거 기간에 새로 활동한 의심 계정은 주당 평균 34.19개로, 비선거 기간 평균 22.61개보다 약 51% 많았다.
연구진은 이 계정들이 특정 외국을 직접 찬양하기보다 한국 사회와 국내 정치인을 비난하는 데 집중한 패턴을 발견했다. 병역제도와 정치·경제 체제도 공격 대상으로 삼아 한 진영을 지지하기보다 사회 전반의 불신을 키우는 양상이 나타났다고 분석했다.
진영보다 갈등 증폭에 집중
호응을 많이 받은 댓글의 주요 공격 대상 10명 가운데 7명은 국내 정치인이었다. 진보와 보수를 가리지 않고 전현직 대통령과 정당 지도자가 포함됐다. 한쪽을 일관되게 편드는 선전보다 양쪽을 번갈아 공격해 내부 갈등을 증폭하는 방식이다.
한국 비난 댓글의 평균 좋아요 비율은 0.514로 분석 유형 가운데 유일하게 좋아요가 싫어요보다 많았다. 댓글 추천이 많으면 상단에 노출될 가능성이 높아져 더 많은 이용자가 보게 된다. 플랫폼의 추천 구조가 영향력 확대에 이용될 수 있음을 보여준다.
연구진은 미국 상원 정보위원회가 2016년 미국 대선 당시 러시아 조직의 활동을 사회의 이념적 갈등을 키우려는 정보전으로 규정한 사례와 비교했다. 외부 영향력 공작이 특정 후보 홍보뿐 아니라 시민 사이의 신뢰를 낮추는 방식으로 작동할 수 있다는 설명이다.
설명 가능한 AI의 장점
기존 탐지 기술은 의심 계정을 찾아도 왜 그런 판단을 했는지 설명하지 못하는 경우가 있었다. 판단 근거가 불투명하면 플랫폼이 계정 이용을 제한하거나 댓글을 삭제하기 어렵고, 이용자도 조치에 이의를 제기할 방법이 부족하다.
이번 기술은 계정의 연결 관계와 작성 시기, 문법과 정서, 공격 대상 등 근거를 함께 제시하도록 설계됐다. 운영자와 연구자가 어떤 특징이 판정에 영향을 줬는지 확인할 수 있어 오탐을 검토하고 대응의 우선순위를 정하는 데 도움을 줄 수 있다.
설명 가능성이 있다고 해서 자동 제재가 정당화되는 것은 아니다. 해외에서 작성됐거나 비판적인 표현을 썼다는 이유만으로 조직적 공작 계정이라고 볼 수 없다. 여러 정황과 실제 운영 주체에 대한 추가 조사, 계정 소유자의 소명 절차가 필요하다.
탐지와 표현의 자유 균형
연구팀도 2만3998개 계정이 특정 외국 정부나 기관에 의해 운영됐다는 뜻은 아니라고 선을 그었다. ‘외국 연계 의심’은 데이터상의 패턴을 나타내는 분류이며 법적 책임이나 실제 배후를 확정한 결과가 아니다.
플랫폼이 기술을 활용할 때는 연구용 탐지와 실제 서비스 제재를 구분해야 한다. 먼저 추가 관찰과 인간 검토를 거치고, 오류율과 집단별 편향을 공개적으로 점검해야 한다. 정치적 의견의 내용이 아니라 조직적이고 기만적인 행동을 중심으로 판단하는 원칙도 중요하다.
선거 기간에는 정치적 발언이 급증하므로 정상적인 시민 참여도 의심 패턴과 비슷해질 수 있다. 계정 생성 시점 하나만으로 판단하지 않고 반복 행동, 협업 흔적, 정보 출처를 종합해야 한다.
이번 연구는 온라인 영향력 공작을 탐지하는 것에서 한 걸음 나아가 판정 근거를 검증할 수 있게 했다는 데 의미가 있다. 실제 공론장 보호로 이어지려면 기술의 정확성과 투명성, 이용자 권리 보호를 함께 갖춘 운영 기준이 필요하다.
댓글