보험업계도 딥페이크 사기 주의보…"공동 대응해야"

보험금 청구 등에 악용 가능성

산업 연합한 기술 개발 움직임

온라인 콘텐츠 이미지.ⓒ픽사베이

인공지능(AI)을 통해 디지털 콘텐츠를 조작하는 딥페이크 기술이 기승을 부리면서 보험업계도 이를 악용한 사기에 취약할 수 있다는 지적이 나온다. 보험사들이 보험금 청구 등에 다양한 디지털 콘텐츠를 활용하고 있어서다.

보험업계에서는 딥페이크 사기에 대응하기 위해 시장 전체가 힘을 합쳐 기술 개발을 추진하는 등 공동 대응이 필요하다는 목소리가 나온다.

12일 국제리스크거버넌스센터에 따르면 딥페이크 동영상 개수는 2018년에서 2020년 사이 10배 이상 증가했다. 또 사이버 위험 분석 전문회사인 사이버큐브는 딥페이크 기술이 향후 2년 내 기업 등에 주요 위험요소가 될 것으로 전망했다.

딥페이크는 머신 러닝 기술을 이용한 디지털 콘텐츠의 제작 또는 조작으로 정의될 수 있으며, 영상 또는 이미지, 텍스트, 음성 파일 등 다양한 형태로 나타날 수 있다. 최근 딥페이크 기술이 발전하면서 정보의 진실성이 위협받고 있으며, 사이버 위험은 향후 기업이 마주할 수 있는 가장 심각하고 발생 가능성이 높은 새로운 위험요소 중 하나로 평가되고 있다.

특히 보험업계는 보험금 청구 프로세스에서 사진 등을 증거로 활용 중인데, 기존의 위험 평가모델이나 손해사정시스템으로는 딥페이크를 활용한 보험사기에 대응이 어려워 가짜 콘텐츠로 인한 문제가 심화될 것으로 예상된다. 사이버 위험에 대한 우려로 사이버보험에 대한 관심 및 판매가 증가할 수 있으나, 눈앞에 보이는 사실이 더 이상 진실이 아니라는 점은 보험사에도 동일하다는 해석이다.

보험업계는 딥페이크 사기로 과도한 금액이 청구되지 않는 한, 일부 보험금 청구로 당장 큰 타격을 입는 일을 없을 것으로 보고 있다.

문제는 이로 인해 기업의 평판이나 브랜드의 가치가 손상되는 경우다. 이럴 경우 상당한 수준의 법률 비용과 위기관리 비용, 손상된 시스템 복구 비용, 데이터 수정 비용 등이 발생할 것으로 예측되며, 특히 기업의 평판이 손상되는 경우애는 잠재적 수익의 감소와 주가 하락이 초래될 것으로 예측된다.

아울러 딥페이크 사기로 인해 발생한 손실이 보험료에 반영돼 계약자의 부담을 가중시키고 불필요한 사회적 비용을 유발할 수 있다는 여려도 제기된다. 따라서 이런 가짜 콘텐츠를 식별하고 고객 인증을 강화하며 지속적인 보안 테스트를 실시하는 등 적절한 대응 체제를 갖춰야 하지만, 투입 비용 대비 효용을 예측할 수 없어 시스템 마련이 어려운 실정이다.

이 때문에 보험업계에서는 산업 연합 차원에서 기술 개발을 추진하는 것이 하나의 방안이 될 수 있다는 주장이 나온다.

실제로 딥페이크로 인한 위험에 대응하기 위해 어도비와, 마이크로소프트, BBC 등은 콘텐츠 출처와 진위 입증을 위한 연합을 결성해 콘텐츠의 출처를 안전하게 입증하고 수정 이력을 확인할 수 있도록 하는 표준을 개발 중이다.

아울러 해외 주요국들은 딥페이크의 생성 과정과 결과물에 투명성을 요구하고, 딥페이크를 범죄로 규정하거나 사적 소송권을 인정하는 등 관련 법안을 마련하고 있다. 미국에서 제안된 딥페이크 책임법에는 관련 콘텐츠의 생성 시스템에 투명성을 요구하고 있다.

손민숙 보험연구원 연구원은 "딥페이크 관련 법안을 마련하고 사회적으로 교육·시스템을 구축하는 등 향후 기술적, 법적, 사회적으로 광범위한 혼합 조치와 대응이 필요하다"고 강조했다.