[AI의 역습①] 만능론에서 조작설까지...‘알고리즘 논란’ 팩트체크

중립성 의혹, 뉴스 편집서 실생활로 확산

포털사업자·정부, ‘AI알고리즘’ 입장차

“이용자 편의 따라 설계” vs “입맛따라 조작”

인공지능(AI)을 가진 로봇이 나오는 영화 '아이로봇'의 한 장면.

지난 50년간 미래 핵심 기술로 언급된 인공지능(AI)은 음성인식, 검색, 모빌리티, 통신 등 삶의 동반자로 거듭나고 있다. 그러나 최근 국내에서는 정치권의 포털 통제 의혹이 불거지며, 콘텐츠 노출과 배열을 결정하는 알고리즘에 대한 ‘사회적 감시’ 요구가 거세지고 있다. 알고리즘은 가치 중립적인가? 그렇지 않다면 편향성 검증과 투명성 확보는 어떤 방식으로 이뤄져야 할까? (편집자주)

네이버와 카카오가 인공지능(AI) 기술을 활용한 알고리즘의 공정성 논란으로 곤욕을 치르고 있다. AI 딥러닝(인공 신경망을 이용한 데이터 분석 처리) 기반의 알고리즘으로 개개인의 뉴스도 골라주고, 쇼핑 동영상 등 콘텐츠도 추천해주는 유용한 기술이 되려 부메랑이 된 것이다.

양사는 사용자의 취향을 우선으로 하는 알고리즘에 따른 것이라며 인위적 개입은 있을 수 없다고 거듭 주장하지만, 정부는 ‘조작’으로 판단해 그 파장이 일파만파 커지고 있다. 무엇이 문제일까?

네이버 쇼핑 '스마트스토어 센터' 홈페이지 화면.

◆ 네이버쇼핑, 검색 조작 vs 알고리즘 개선

뉴스 및 검색 시스템으로 촉발된 AI 알고리즘 중립성 이슈는 최근 공정거래위원회가 개입하면서 사안이 심각해지고 있다.

초반에는 윤영찬 더불어 민주당의 ‘카카오 호출’ 메시지 논란이나 네이버의 ‘추미애’ 검색건은 정치권을 중심으로 의혹이 퍼졌으나, 네이버쇼핑•동영상 및 카카오택시 배차 등으로 확장되는 모양새다. 여기에 정부가 의혹을 공식화하며 AI알고리즘의 신뢰도에 금이 갔다.

공정위는 최근 네이버가 쇼핑 및 동영상 분야 검색 알고리즘을 인위적으로 조정 변경했다며, 시장 왜곡 및 소비자 기만으로 과징금 267억원을 부과했다. 공정위에 따르면 네이버는 검색 알고리즘을 조정해 스마트스토어, 네이버 TV 등 자사 상품이나 콘텐츠를 최상단에 올렸다. 반면 11번가, 옥션 등 경쟁사의 상품 등은 검색 결과 하단으로 배치했다.

근거는 오픈마켓 상품 노출 제한 개수 완화, 자사 상품 노출에 유리한 6차례의 알고리즘 변경 등이다. 동영상 부문도 검색 알고리즘 변경으로 아프리카TV, 판도라TV, 곰TV 등의 경쟁사 동영상 노출 점유율을 하락했다는 판단이다.

네이버는 즉각적으로 “공정위가 지적한 쇼핑과 동영상 검색 로직 개편은 사용자들의 다양한 검색 니즈에 맞춰 최적의 검색 결과를 보여주기 위한 노력의 결과로 경쟁업체 배제와는 관련이 없다”고 반발했다. 네이버는 2010년부터 2017년 사이에 50차례에 걸친 개선 작업을 시행했는데, 공정위가 이중 5개의 작업만을 임의로 추려 경쟁사업자를 배제했다는 판단을 했다고 소명했다. 공정위가 지적한 판매지수 가중치도 모든 쇼핑몰에 대해 적용했다는 설명이다.

네이버쇼핑을 담당하는 포레스트CIC 이윤숙 대표는 지난 8일 열린 국정감사에서도 이같은 입장을 거듭 강조했다. 이윤숙 대표는 “공정위 발표와 달리 쇼핑 검색 결과를 조작하지 않았다. (조사결과에 대해) 동의할 수 없다”고 말했다. 이어 “쇼핑 검색 품질을 좋게 하고, 다양한 쇼핑몰이 나오게 알고리즘을 개선하고 있는데 그 과정이 조작처럼 보였을 수도 있다”고 덧붙였다.

다만 AI알고리즘 조정 가능성에 대해서는 “인위적으로 변수를 조정해야 하는 상황이 있다”고 답변했다. 또 추미애 법무부 장관 검색 노출 오류에 대해서도 “정말 실수였고 송구스럽다”면서도 “뉴스 검색결과를 조작한 것은 아니란 점을 분명히 하고 싶다”고 말했다.

'카카오T' 택시 차량.ⓒ 카카오모빌리티

◆ “카카오 택시, 배차 몰아줬다”...“정부 조사 왜곡”

카카오는 ‘카카오T 블루 택시’ 알고리즘 배차 문제로 경기도와 맞서고 있다. 택시업계는 지난달 카카오모빌리티가 가맹택시인 ‘카카오T블루’에 배차를 몰아준다는 의혹을 제기했고, 이에 경기도는 실태조사를 통해 의혹이 일부 사실이라고 발표했다.

경기도는 카카오T블루 운행 시작 후 일반택시의 카카오T호출 수가 평균 29.9% 감소했다고 지적했다. 운행지역인 7개 시(성남, 구리, 의정부, 양주, 용인, 하남, 남양주)에서는 운행 시행일 이전 월 평균 230건이었던 카카오T 배차 콜 수가 165건으로 줄었다고 밝혔다. 경기도의 실태조사는 카카오 가맹택시가 운행중인 7개시와 가맹택시가 없는 5개 도시(수원, 화성,부천, 광명, 시흥)에서 영업 중인 개인택시 기사 115명을 대상으로 이뤄졌다.

카카오는 곧바로 조사 결과가 왜곡 됐다며 지적했다. 회사는 승객 호출 시 택시의 예상 도착 시간을 기준으로 ▲기사 평가 ▲기사 배차 수락률 ▲기사 운행 패턴 ▲수요·공급 비율 ▲실시간 교통 상황 등 변수에 대한 빅데이터를 분석 적용해 승객과 기사 매칭이 효율적으로 이뤄지고 있다고 설명했다. 알고리즘을 통해 자동 배치하기 때문에 특정 콜만 몰아주는 것이 불가능하다는 설명이다.

카카오측은 “경기도가 카카오T 블루 도입으로 배차 콜 수가 30% 감소했다고 발표했으나 자체 조사한 결과로는 오히려 개인택시 기사당 콜 수가 40% 넘게 증가한 것으로 나타났다”는 상반된 조사 결과를 반박 자료로 내밀었다.

양측의 주장이 한계점이 있고 엇갈려서 결론은 나지 않고 있다. 경기도의 실태조사의 경우 조사 대상이 카카오 가맹택시 기사 수의 60분의1에 그치고, 기사들에게 들어온 콜 중 실제 운행한 콜에 한정하는 방식으로 진행해 일반화가 어렵다는 분석이다.

카카오 역시 비가맹택시 콜수만 공개했으며, 택시배차 알고리즘을 상세히 공개할 필요가 있다는 지적이다. 현재 경기도 측은 공정위에 카카오T블루 콜 몰아주기 관련 조사를 요구한 상태다.