다큐에도 스며든 딥페이크…AI 시대의 윤리는 어디로

“넌 성공했고, 나도 성공을 거뒀어. 그런데 넌 행복하니?”

3년 전 사망한 스타 셰프의 삶을 다룬 다큐멘터리 영화 ‘로드러너’에 사용된 독백 음성이다. 보데인의 심리 상태를 추적하겠다는 차원에서 생전에 지인들에게 보낸 이메일을 소개하면서, 친구 인 데이비드 최에게 보낸 이메일의 한 부분이 보데인의 목소리로 영화에 담겼다.

그런데 이 목소리가 인공지능(AI) 기술을 사용해 만들어진 사실이 뒤늦게 확인돼 논란이 되고 있다. 15년 이상 TV 프로그램에 출연해 다양한 동영상과 음성 자료를 남긴 보데인이지만, 친구에게 보낸 개인적인 내용의 이메일까지 음성 녹음으로 남겨놨다는 것은 부자연스럽다는 의문이 제기되면서다.

모건 네빌 감독은 한 인터뷰에서 이 같은 질문을 받자 AI 기술을 사용했다고 털어놨다. 보데인의 생전 목소리를 분석한 AI 업체가 억양과 분위기까지 흉내를 내 이메일 내용을 음성파일로 변환시켰다는 것이다. 네빌 감독은 AI 기술로 보데인의 독백을 처리하기 전에 유족의 동의도 받았다고 설명했다.

그러나 이 사실이 알려지자 다큐멘터리의 윤리 문제가 제기됐다. 사실을 전달해야 하는 다큐멘터리 영화에서 존재하지 않는 음성 자료를 제작해 사용한 것은 관객의 신뢰를 훼손하는 행위라는 것이다. 특히 네빌 감독은 영화에서 AI가 제작한 음성을 사용했다는 사실도 사전에 알리지 않아 혼란을 야기했다는 점이 가장 큰 문제로 지적됐다.

최근 국내에서도 AI 기술을 활용한 다양한 콘텐츠들이 만들어지고 있다.

가요계와 방송가를 중심으로 가수들의 음성을 AI(인공지능) 기술로 재현하는 시도가 동시다발적으로 벌어지고 있다. 엠넷 ‘다시 한번’, SBS ‘세기의 대결 AI vs 인간’ 등을 방영하면서 전설이 된 가수들을 되살리고 생전 한 번도 부른 적 없는 노래를 고인의 목소리로 다시 만들어냈다. 또 청소로봇, 스피커 등 AI는 이미 우리 삶 속에 깊숙이 스며들고 있다.

기술이 발전함에 따라 새로운 콘텐츠 개발이라는 긍정적인 인식도 높다. 일각에서는 시대의 변화에 따라 AI 기술의 사용은 불가피하다는 말도 나온다. 다큐멘터리 제작자인 고든 퀸은 ‘로드러너’를 둔 논쟁에 대해 “이번 사안은 사소하다고 볼 수 있다”며 “기술이 발전하고 있는 만큼 사용할 수 있다”고 감싸기도 했다.

그러나 사실을 전달해야 하는 다큐멘터리 영화에서 존재하지 않는 음성 자료를 제작해 사용하면서, 사전에 알리지 않은 점은 관객의 신뢰를 배반하는 행위라는 질타의 목소리가 높다. 실제로 국내에서도 콘텐츠를 제작함에 있어서 사자(死者)의 목소리를 ‘딥페이크’(딥 러닝과 가짜의 합성어) 기술로 만들어 내는 것에 있어서 조심스러운 자세를 취하고 있다.

한 방송 관계자는 “고인이 된 당사자들의 의지와 무관한 콘텐츠가 나오거나, 이를 상업적으로 이용하다보면 분쟁의 가능성이 나올 수밖에 없다. AI 기술로 획일화된 국내 콘텐츠 시장에 다양성을 줄 수 있다는 부분에 충분히 공감하는 만큼, 순기능을 위한 윤리적 고민도 필요한 시점”이라고 꼬집었다.

방송통신위원회(이하 방통위) 역시 AI 서비스가 활용되는 과정에서 이용자 보호원칙이 지켜질 수 있도록, 이용자사업자 대상 교육컨설팅을 지원하고, AI윤리규범 등을 구체화해 제도개선을 추진할 계획이라고 밝혔다.

한상혁 위원장은 “AI서비스는 더 많은 부가가치를 창출하고, 생활의 편의를 더해줄 것이지만, 올바른 윤리와 규범이 없는 AI서비스는 이용자 차별과 사회 갈등을 초래할 수 있다”며 “AI기술의 혜택은 골고루 누리되 부작용은 최소화할 수 있도록 사람중심의 AI를 위한 정책을 촘촘히 추진해 나갈 것”이라고 말했다.