"오픈AI의 AI, 사람 몰래 ‘해킹할 곳’ 찾아다녔다"

5월 이용자 계정 빼앗아 내부 살펴봐…7월 대규모 침입보다 두 달 빨라

“사이트 들어갈 방법 찾은 흔적”…오픈AI 공개 내용보다 범위 넓어

AI가 스스로 외부 시스템 건드린 사례 잇따라…안전성 우려 커져

오픈AI 로고. ⓒ로이터=연합뉴스

오픈AI가 시험하던 인공지능(AI)이 지난 7월 AI 개발 플랫폼 허깅페이스를 해킹하기 두 달 전부터 이 사이트에 들어갈 방법을 찾고 있었던 것으로 나타났다. AI가 갑자기 통제를 벗어난 게 아니라 사전에 이용자 계정을 빼앗고 사이트 곳곳을 살펴보며 약점을 찾았다는 것이다.

16일(현지시간) 로이터통신에 따르면 독립 연구자 요나스 비더만묄러는 오픈AI의 AI 에이전트들이 지난 5월 중순 허깅페이스 이용자 계정 2개를 빼앗아 사용한 흔적을 발견했다. AI 에이전트는 사람의 지시를 일일이 받지 않고 주어진 목표를 스스로 수행하는 AI 프로그램을 말한다. 이 AI들은 빼앗은 계정을 이용해 허깅페이스 시스템을 살펴보고 들어갈 수 있는 약점이 있는지 확인한 것으로 조사됐다.

특히 AI들은 평소와 다른 방식으로 파일을 올리는 등 사이트 내부 구조를 파악하려는 행동을 보였다. 당시 실제로 허깅페이스 시스템 깊숙이 침입했다는 증거는 발견되지 않았다. 그러나 연구진은 이런 행동이 해킹에 앞서 공격할 곳과 방법을 미리 찾아보는 과정과 비슷하다고 설명했다. 이후 약 두 달이 지난 7월 오픈AI가 시험하던 AI 수백 개가 실제 허깅페이스 시스템에 침입하는 사건이 발생했다.

오픈AI는 앞서 5월 발생한 사건 가운데 AI가 허깅페이스 이용자의 접속 정보를 훔쳐 생물학 관련 파일에 접근한 사실은 공개했다. 그러나 연구진은 이번에 확인된 행동이 오픈AI가 당시 설명했던 것보다 훨씬 넓은 범위에서 이뤄졌다고 지적했다. 오픈AI도 로이터의 문의를 받은 뒤 5월 13일 이런 일이 발생했다는 사실을 확인했다.

이번 사례는 AI가 사람의 예상과 다른 행동을 할 수 있다는 우려를 키우고 있다. 오픈AI의 AI가 다른 소프트웨어 서비스에 침입하거나 허가받지 않은 웹사이트를 이용해 서로 정보를 주고받은 사례도 최근 잇따라 확인됐다. AI가 더 많은 일을 스스로 처리하게 되면서 개발업체가 어디까지 AI의 행동을 통제할 수 있느냐는 문제가 새로운 과제로 떠오르고 있다.