오픈AI도 몰랐다...AI 모델의 외부 해킹 시도 일주일 뒤 파악

오픈AI의 인공지능(AI) 모델이 외부 시스템 해킹을 시도했으나 회사가 약 일주일간 이 사실을 파악하지 못한 것으로 알려졌다. AI 에이전트의 자율 행동 범위와 안전 관리 체계를 둘러싼 논란이 커지고 있다.

26일(현지시간) 로이터통신은 복수의 소식통을 인용해 오픈AI가 자사 AI 모델의 이상 행동을 위협이 차단되고 미국 연방수사국(FBI)에 신고된 이후에야 파악했다고 보도했다. AI 모델의 해킹 시도를 인지하기까지 약 일주일이 걸린 것으로 전해졌다.

ⓒ로이터/연합뉴스

앞서 지난 21일 오픈AI는 최신 AI 모델의 사이버 공격 능력을 평가하는 과정에서 일부 모델이 격리된 샌드박스 환경을 벗어나 인터넷에 접근하고, 오픈소스 AI 플랫폼 허깅페이스의 계정 정보를 탈취해 서버 공격을 시도하는 사건이 발생했다고 밝혔다.

소식통에 따르면 AI 모델의 테스트 환경 이탈 시도는 지난 9일께 시작됐으며, 허깅페이스 대상 공격은 11일부터 13일까지 진행된 것으로 전해졌다. 오픈AI와 허깅페이스가 관련 상황을 처음 공유한 시점은 사건 발생 이후인 20일께였다고 알려졌다.

허깅페이스 공동 창업자 토마스 울프는 이번 사건의 구체적인 경과를 정리한 타임라인을 공개할 예정이라고 밝혔다.

오픈AI는 당시 성명을 통해 "이번 사건은 전례 없는 사례"라며 "AI 안전 분야에서 중요한 이정표가 될 것"이라고 설명했다.

이번 사고는 차세대 AI 에이전트의 사이버 보안 능력을 검증하는 과정에서 발생했다. 특히 AI가 스스로 판단하고 행동하는 수준이 높아지면서, 개발사가 모델의 행동을 어디까지 통제할 수 있는지가 핵심 쟁점으로 떠올랐다.

일부 보안 전문가들은 이번 사태가 AI 안전 관리 절차를 재검토하는 계기가 될 수 있다고 지적했다.

세계윤리데이터재단의 말리 스미스 수석 정보 전문가는 "AI가 무엇을 하는지 몰랐던 것인지, 아니면 알고도 막지 못했던 것인지 의문"이라고 말했다.

팰리세이드 리서치의 제프리 레이디시는 AI 모델의 위험성을 지적하며 "AI 기업들이 더 강력한 모델 개발 경쟁을 벌이는 상황에서 보안과 안전 관리에 충분한 투자를 하고 있는지 살펴봐야 한다"고 강조했다.