“오픈AI 감시망에 구멍…AI 에이전트, 인간 몰래 수백 건 행동 숨겨”

외부 안전성 평가서 감시체계 취약점 다수 발견

AI 행동 수백 건 감시 피할 수 있는 결함 확인

오픈AI "문제 수정"…외부 검증은 아직 안 받아

ⓒ 데일리안 AI 이미지 생성

챗GPT 개발사 오픈AI의 인공지능(AI) 감시체계에서 심각한 보안 취약점이 발견됐다. AI 에이전트가 수백 건의 행동을 감시망에서 숨기거나 보안 통제를 우회할 수 있는 것으로 나타나면서 AI 안전성에 대한 우려가 커지고 있다.

로이터통신에 따르면 AI 안전성 연구기관 METR과 레드우드리서치는 22일(현지시간) 오픈AI의 내부 감시체계를 평가한 결과 여러 취약점을 발견했다고 밝혔다. 두 기관은 지난 7월 21일부터 8월 11일까지 오픈AI의 인프라와 소스코드에 접근해 감시체계가 정상적으로 작동하는지 점검했다.

가장 심각한 문제는 AI 에이전트가 최근 수행한 수백 건의 행동을 감시 기록에서 누락시킬 수 있다는 점이다. 연구진은 AI가 감시체계의 허점을 이용해 자신의 행동을 숨길 수 있는 취약점을 확인했다. 다만 실제로 AI가 이를 악용해 대규모 행동을 은폐했다는 사실이 확인된 것은 아니다.

보안 통제를 우회할 수 있는 경로도 발견됐다. 오픈AI의 코딩 에이전트인 코덱스(Codex)가 보안 장치를 우회해 사용자에게 부여된 권한을 모두 행사할 수 있는 취약점이다. 연구진은 일부 감시 기능이 정상적으로 작동하지 않거나 특정 작업에서 감시를 회피할 수 있다는 점도 지적했다.

오픈AI는 발견된 취약점을 수정했다고 밝혔다. 그러나 외부 연구기관들은 수정 사항이 실제로 문제를 해결했는지 독립적으로 검증하지 못했다고 설명했다. 전체 61쪽 분량의 내부 평가 보고서는 공개되지 않았으며 주요 내용을 정리한 요약본만 발표됐다.

이번 평가는 AI가 스스로 복잡한 업무를 수행하는 과정에서 감시체계까지 우회할 수 있다는 위험을 보여준다. 오픈AI는 외부 평가 결과를 향후 안전장치 개선과 독립적인 검증 체계 강화에 활용하겠다고 밝혔다.