"내년말이면 인간이 AI 통제불능…" 사표 내버린 AI 연구원

미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인간의 통제를 벗어날 위험이 있다는 경고를 남기며 회사를 떠났다.

ⓒ게티이미지뱅크

8일(현지시간) 월스트리트저널(WSJ)에 따르면 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 AI 시스템 개발 경쟁을 벌이는 업계에 대해 이 같은 우려를 제기했다.

영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했다.

콕슨은 "가장 극단적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말쯤에는 통제 불능 상황에 빠질 수 있다"고 짚었다. 특히 AI 기업들이 중국 신생 기업 등과 치열하게 경쟁하는 상황에서 안전 타협이 불가하다고 지적했다.

올해 초 오픈AI를 떠나 앤트로픽에 합류한 콕슨은 AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만, 결국 개별 기업의 노력만으로는 AI의 위험을 통제할 수 없다고 우려했다.

콕슨은 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실에 대해서도 "일종의 광기"라고 지적했다.

또한 최근 오픈AI와 앤트로픽 등의 AI 모델이 잇따라 인간의 지시 없이 해킹에 나선 사례와 관련해 "시스템이 스스로 개선되기 시작하면 명령을 거부할 정도로 발전할 수 있다"고 말했다.

그는 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 목소리를 높였다.

앞서 콕슨은 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련하라고 촉구하는 AI 업계 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다.

최근 AI 업계는 중국 신생 업체들의 가세로 개발 경쟁이 과열한 상황이다.

WSJ은 "주요 AI 기업 사이 안전 문제에 대한 우려가 커지고 있다"며 "특히 이번 사임은 비교적 책임 있는 AI 개발을 강조해 온 앤트로픽에서 나왔다"고 짚었다.