"통제 벗어나면 지옥"…챗GPT AI 해킹 시도에 공포 확산

오픈AI의 인공지능(AI) 에이전트가 내부 보안 테스트 과정에서 통제 환경을 벗어나 AI 스타트업(신생벤처) 허깅페이스(Hugging Face) 서버에 침투한 사실이 공개되면서 온라인에서 우려의 목소리가 쏟아지고 있다.

오픈AI는 21일(현지시간) 자사 블로그를 통해 'GPT-5.6 솔(Sol)'과 더 강력한 일부 비공개 모델이 내부평가 도중 통제를 벗어나 오픈소스(개방형) AI 공유 플랫폼 허깅페이스를 해킹한 사실을 확인했다고 밝혔다. 지난 9일 출시된 'GPT-5.6 솔'은 GPT-5.6 시리즈 중 최고성능 모델이다.

해당 소식에 누리꾼들은 "통제를 벗어나면 그때부턴 지옥이다", "무서운 세상이 돼버렸네. 끔찍하다", "무섭다. 얼마 지나지 않아 사람의 뇌 속까지 해킹할 듯", "놀랍지 않다. 누구나 예측할 수 있는 문제 아니었나", "터미네이터가 현실이 되겠군", "드디어 AI와 인간의 총성 없는 전쟁이 시작되는 건가?" 등 반응을 보였다.

ⓒAP/연합뉴스

AP통신 등에 따르면 테스트 당시 해당 모델들은 안전장치가 일부 완화된 상태였으며 네트워크 접속이 차단된 환경에서도 '제로데이 취약점'을 찾아 인터넷 접근 권한을 확보한 것으로 전해졌다.

이후 AI는 확보한 접속 자격과 취약점을 이용해 허깅페이스 서버에 침투, 벤치마크 문제의 정답을 찾아냈다.

허깅페이스 보안팀은 AI의 공격을 탐지해 차단했으며 오픈AI는 이번 사례를 "최첨단 기법이 동원된 전례 없는 사이버 공격"으로 규정하고 허깅페이스와 공동 조사를 진행 중이라고 밝혔다.

양사는 조사 완료 후 취약점과 사고 경위를 공개할 예정이다.