오픈AI가 올해 전 세계 선거에 앞서 AI 악용을 막기 위한 새로운 정책과 도구를 선보일 예정임을 공식적으로 발표했다.
선거기간 중 AI 악용 방지 계획
오픈AI는 선거기간 동안 부적절한 AI 활용을 신속하게 조사하고 해결하기 위한 방안을 마련 중이라고 발표했다. 2024년에는 우리나라와 미국을 비롯해 전 세계 50개 이상의 국가에서 선거가 치러질 예정이며, 이는 역사상 가장 큰 규모의 선거로 기록될 것으로 예상된다.
AI 남용에 대한 증가하는 우려
최근 챗GPT와 달리를 포함한 AI 기술의 발전으로 가짜 뉴스 제작, 사실과 다른 이미지 및 영상 제작의 위험이 높아지고 있다. 이러한 기술들이 선거 기간에 악용될 가능성에 대한 우려가 커지고 있으며, 특히 정치적 목적을 가진 해킹 및 IT 테러, 즉 핵티비즘의 활동이 급증하고 있다.
GPT와 달리 사용에 대한 정책 개선
오픈AI는 이러한 우려에 대비하여 GPT와 달리의 사용을 모니터링하고 정책을 정기적으로 개선하고 있다고 밝혔다. 선거 후보자나 정부 관계자로 가장하는 챗봇 생성을 차단하고, 투표 일정이나 절차 등에 관한 허위 정보의 확산을 방지하기 위한 조치도 포함되어 있다. 사용자들은 관련 위반 사항을 신고할 수 있는 시스템도 마련될 예정이다.
향후 계획과 협력 방안
테스트를 마친 후, 오픈AI는 챗GPT를 실시간 뉴스 보고와 연계하여 유권자에게 신뢰할 수 있는 정보를 제공할 계획이다. 이를 위해 주정부 국무장관 협회(NASS) 등과의 협력을 통해 정확한 선거 관련 정보 제공을 목표로 하고 있다. 오픈AI는 전 세계적인 선거를 앞두고 AI의 남용 가능성을 예측하고 방지하기 위해 지속적으로 파트너들과 협력할 예정이라고 전했다.
댓글