규제‧법적 허점 파고드는 딥페이크[딥페이크에 멍드는 케이팝②]

지난 2월, 미국의 유명 가수 테일러 스위프트의 사진을 이용한 딥페이크(Deepfakes) 음란물이 유포되면서 미국 시민들이 충격에 휩싸였다. 테일러 스위프트의 얼굴에 나체 이미지가 합성된 딥페이크 이미지는 X(트위터)에 게재된 지 17시간 만에 조회수 4700만 회에 달했다. X는 콘텐츠 단속 센터 설립 계획을 긴급 발표하고, 백악관과 정치권은 피해를 막기 위한 규제 마련을 촉구했다.

ⓒ뉴시스

X의 비즈니스 책임자 조 베나로치는 성 착취물이나 허위 정보를 단속하는 ‘신뢰와 안전센터’(Trust and Safety center of excellence)를 미국 텍사스주 오스틴에 신설하겠다고 밝혔으며, 카린 장피에르 백악관 대변인은 관련 기업의 책임 있는 움직임과 의회의 빠른 입법 조치를 요구했다.

미 의회 등에서도 딥페이크의 심각성을 인식해 법제화를 추진하고 있으며, 버지니아주와 텍사스주는 2019년 리벤지 포르노와 선거운동에 딥페이크 사용을 금지하는 법안을 통과시켰다. 캘리포니아주도 두 사안을 법적으로 금지시켰다.

딥페이크 기술의 악의적 사용과 관련해 미국 정부와 의회의 움직임은 적극적이었다. 그만큼 ‘심각성’을 인지하고 있다는 것이다. 이에 비해 한국 정부와 관계 기관, 법 등은 여전히 많이 미흡하다.

반면 우리나라의 경우 아직까지 구체적인 해결책이 없는 실정이다. 'AI 산업 육성 및 신뢰 기반 조성에 관한 법률안', 이른바 AI 기본법은 지난 21대 국회에 통과되지 못했다. 22대 국회에서는 'AI 기본법' 6건이 발의됐지만, 제자리걸음이다. 딥페이크 영상, 음향 등 AI 기술을 이용해 제작한 정보를 온라인에 게재할 때 워터마크 표시 의무화를 담은 정보통신망법 일부 개정 법의안도 표류 중이다.

딥페이크 범죄가 입증되더라도 처벌이 경미한 것도 지적 대상이다. 2020년 도입된 이른바 딥페이크 방지법(성폭력 범죄의 처벌 등에 관한 법률 개정안)에 적발되면 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처할 수 있다. 그러나 2020~2023년 딥페이크 범죄 관련 1·2심 판결 71건 중 딥페이크 범죄만으로 실형을 선고받은 경우는 4건에 불과하다.

2019년 네덜란드의 사이버 보안 연구 회사인 딥 트레이스가 발표한 보고서에 따르면, 딥페이크 영상물 중 96%가 포르노 영상이었고 그 영상의 피해자 중 25%가 한국 연예인인 것으로 드러났다. 이렇게 만들어진 딥페이크 영상은 디지털 성범죄뿐만 아니라, 초상권, 인격권 침해, 개인의 사생활 침해와 명예훼손 문제로도 이어질 수 있다.

특히 최근 케이팝 (K-POP) 아이돌 멤버들의 무대 영상을 나체 영상으로 바꾼 딥페이크 영상이 유포된 것과 관련해, 기술 발전으로 피해는 커지는데, 국내의 도덕적‧윤리적 제어장치는 충분하지 않다는 지적이 끊이질 않는다.

미국의 백악관에서는 테일러 스위프트 딥페이크 영상으로 온 나라가 시끄럽자, 즉각적인 대처를 요구하는 등의 움직임이 있었지만, 한국 정부에서는 특별한 지시나 심각성을 경고, 제재를 찾아볼 수 없었다. 딥페이크 범죄에 칼을 빼든 권은비는 소속사와 개인적으로 움직이는 것 외 할 수 있는 것이 없었고, 별다른 보호를 받지 못했다.

방송통신심의위원회(방통심의위)가 딥페이크 기술을 악용한 영상을 적발을 꾸준히 진행은 하고 있다. 올해 상반기 딥페이크 기술을 악용한 '성적 허위영상물'을 6000여 건 적발했으며, 이는 전년도 총 시정요구 7187건의 84%에 이른다. 다만 시정일 뿐 차단과 제재로까지는 이어지지 않고 있는 실정이다.

콘텐츠를 생성하지 않은 시청만으로는 법적으로 문제가 되지 않는다는 사각지대도 딥페이크가 활개치기 좋은 환경으로 만들었다.

2020년 신설된 성폭력범죄의 처벌 등에 관한 특례법 제14조의 2 1항에 따르면, 반포 등을 할 목적으로 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물을 영상물 등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자는 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처한다.

그러나 반포 등의 목적이 명확해야 처벌할 수 있어 개인 소지 목적의 딥페이크 음란물 제작 행위, 시청 행위는 처벌 대상이 아니며, 반포 목적을 입증하는 것도 쉽지 않다. 지인이나 연예인 모르는 사람의 얼굴을 음란물과 합성하는 등 신정 처벌하도록 한 일명 '딥페이크 처벌법'이라고 불리고 있지만 허점이 많다는 지적이다.

조효동 변호사는 "딥페이크 처벌법에는 딥페이크 영상을 시청했다는 사실만으로는 처벌 규정이 없다. 또한 딥페이크 영상을 소재하거나 구입, 저장하는 행위에 대한 처벌 규정도 아직 없어서 영상을 제작하거나 반포하지 않으면 처벌받지 않는다. 이는 불법 촬영물 또는 복제물을 소지, 구입, 저장 또는 시청한 자까지 모두 처벌하는 성폭력과 명확한 차이점이다. 딥페이크 영상이라는 사실을 인지했음에도 단순히 욕망을 채우기 위해 이러한 영상을 시청하는 것은 도덕적으로 옳지 않다"라고 말했다.

그러면서 ”딥페이크 범죄는 그로 인한 피해 회복이 어렵다. 기술적으로 딥페이크를 구분할 수 있는 시스템을 개발할 필요가 있다“라고 말했다.