오픈AI의 윤리책임자 클로이 바칼라르가 회사에 합류한 지 1년도 되지 않아 퇴사했다. 인공지능 기술이 일상과 산업 전반으로 빠르게 확산하는 가운데, 전담 윤리 전문가의 이탈은 AI 기업이 윤리적 판단을 어떤 조직 구조로 지속할 것인지 다시 묻게 한다.
연합뉴스가 파이낸셜타임스 보도를 인용해 전한 내용에 따르면 오픈AI는 바칼라르의 퇴직 사실을 확인했다. 회사 측은 AI 윤리가 특정 개인이나 하나의 팀만의 업무가 아니며, 여러 팀이 주도하는 모델 구축 과정에 윤리적 고려가 깊이 반영돼 있다는 취지로 설명했다.
메타에서 오픈AI로 옮긴 전담 윤리 전문가
바칼라르는 메타플랫폼에서 6년 동안 윤리책임자로 일하며 인스타그램과 페이스북 등 주요 서비스에 윤리 원칙을 반영하는 업무를 맡았다. 그는 지난해 8월 오픈AI로 자리를 옮겨 모델 개발의 윤리적 접근법과 인간과 AI의 상호작용, 기계의 의식 가능성을 둘러싼 논쟁 등을 다뤘다.
그가 오픈AI에서 유일한 전담 윤리학자였고 현재 즉각적인 후임이 알려지지 않았다는 점은 이번 인사의 의미를 키운다. 전담 직책은 복잡한 제품 결정에서 장기적 사회 영향과 이용자 권리를 환기하는 역할을 할 수 있기 때문이다. 반면 윤리 업무가 한 사람에게 지나치게 의존하면 핵심 인력의 이동이 곧 체계의 공백으로 이어질 위험도 있다.
여러 팀에 분산된 책임, 장점과 과제
오픈AI의 설명처럼 윤리적 고려를 모델 연구, 제품, 안전, 법무와 정책 부서 전반에 나누는 방식은 실제 개발 과정에 판단 기준을 더 일찍 반영할 수 있다는 장점이 있다. 출시 직전에 별도 조직이 문제를 검토하는 방식보다 설계와 시험 단계부터 위험을 다룰 수 있어서다.
그러나 책임이 넓게 분산될수록 최종 결정을 누가 내리고 누가 결과를 설명할지 불분명해질 수 있다. 서로 다른 조직이 성능, 출시 일정, 안전성, 시장 요구를 각각 우선하면 윤리 판단이 조정 과정에서 약해질 가능성도 있다. 분산형 체계가 작동하려면 권한과 보고 절차, 이견을 제기할 통로가 명확해야 한다.
윤리 원칙이 선언에 머물지 않으려면 반복 가능한 절차도 필요하다. 모델 출시 전 영향 평가, 위험 시나리오 시험, 외부 전문가 검토, 출시 뒤 사고와 민원 추적 같은 과정이 문서화돼야 한다. 중요한 결정과 근거를 남기면 담당자가 바뀌어도 조직의 학습이 이어질 수 있다.
최근 이어진 고위 인력 이동
이번 퇴사는 오픈AI의 다른 고위 인사들이 최근 몇 주 사이 회사를 떠난 흐름 속에서 나왔다. 보도에는 안전시스템 책임자 요하네스 하이데케와 미션 조율 책임자 겸 미래학자 조슈아 아키엄의 이탈도 언급됐다. 각 인사의 사유와 영향은 구분해 살펴야 하지만, 안전과 조직 목표를 다루던 인력의 연속적인 이동은 외부의 관심을 끌 수밖에 없다.
바칼라르는 최근 한 AI 콘퍼런스에서 빠르게 움직이는 산업의 상황을 비행 중인 항공기를 동시에 만드는 과정에 빗대어 표현했다. 이는 기능과 성능이 급속히 발전하는 동안 안전 기준과 사회적 합의도 함께 설계해야 하는 AI 업계의 현실을 압축적으로 보여준다.
AI 윤리 직무가 넓어진 배경
대형 기술기업들은 서비스가 이용자 행동과 사회에 미치는 영향을 다루기 위해 철학, 사회과학, 인권 분야의 전문가를 영입해 왔다. 초기에는 자문 성격이 강했지만, 추천 알고리즘과 생성형 AI의 영향력이 커지면서 이들의 업무는 제품 개발, 정책 수립, 규제 대응, 이용자 보호로 확대됐다.
특히 생성형 AI는 같은 모델이 교육, 의료, 채용, 금융, 창작 등 서로 다른 영역에서 사용된다. 한 분야에서 허용되는 기능이 다른 분야에서는 차별이나 개인정보 침해, 잘못된 정보 확산으로 이어질 수 있다. 따라서 윤리 검토는 추상적 원칙뿐 아니라 사용 환경과 영향을 구체적으로 분석하는 작업이 돼야 한다.
앞으로 확인해야 할 기준
향후 관심은 후임 인선 여부만이 아니라 오픈AI가 윤리적 문제를 실제 의사결정에 반영하는 방식을 얼마나 투명하게 보여주느냐에 모일 전망이다. 전담 윤리학자를 다시 선임할지, 여러 팀의 책임을 조정하는 별도 기구를 둘지, 외부 검토를 확대할지가 중요한 관찰 지점이다.
조직도만으로 윤리 체계의 수준을 판단하기는 어렵다. 핵심은 위험을 발견했을 때 출시를 늦추거나 설계를 바꿀 권한이 있는지, 내부 이견이 최고 의사결정권자에게 전달되는지, 문제가 발생한 뒤 책임과 개선 조치를 공개하는지다. 측정 가능한 절차가 있어야 분산된 책임이 형식적인 구호에 그치지 않는다.
바칼라르의 퇴사는 한 전문가의 이동이지만, AI 기업이 혁신 속도와 사회적 책임을 함께 관리할 수 있는지를 가늠하는 사례가 됐다. 기술이 빠르게 변할수록 윤리 기준 역시 특정 인물의 판단에 의존하기보다 조직의 일상적인 개발과 검증 과정에 안정적으로 자리 잡아야 한다.
댓글