AI안전연구소, 오픈AI와 손잡고 최첨단 AI 안전성 강화

국제 평가기준 논의 본격

학기술정보통신부는 6월 17일 한국전자통신연구원 서울사무소에서 인공지능안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약을 체결하고 기념 사진을 찍고 있다.ⓒ과학기술정보통신부

AI안전연구소와 오픈AI가 고위험 분야 인공지능 안전성 확보를 위한 협력에 나선다.

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI가 업무협약(MOU)을 체결했다고 밝혔다. 이번 협약은 최첨단 AI 모델의 위험을 점검하고, 안전성 평가 체계를 고도화하기 위한 협력의 일환으로 보인다.

협약은 지난해 10월 과기정통부와 오픈AI 간 체결된 협력 기반을 AI 안전 분야로 확장한 성격이다. 과기정통부는 올해 두 차례 진행된 오픈AI 고위 관계자 면담에서 논의된 내용을 바탕으로, 이번에 AI안전연구소와 오픈AI 간 실질 협력을 본격화하게 됐다고 설명했다.

협약에 따라 두 기관은 고위험 분야별 AI 안전 평가 방법론과 벤치마크 관련 지식, 모범사례를 공유할 예정이다. 또 한국어와 한국 사회의 맥락을 반영한 평가 체계 개발을 위해 기술 정보를 교환한다. 국제적으로 활용 가능한 AI 안전 평가 체계 마련에도 지속적으로 협력하기로 했다.

오픈AI가 각국 AI안전연구소와 업무협약을 맺은 것은 미국, 영국, 일본에 이어 한국이 네 번째다. 이에 따라 한국은 최첨단 AI의 위험 검증과 평가 기준 마련을 위한 글로벌 협력 네트워크에서 역할을 한층 강화할 수 있게 됐다.

정부와 연구소, 기업 측은 이번 협약이 고성능 AI와 자율형 에이전트 AI 확산에 대응하는 계기가 될 것으로 기대한다.

이진수 과기정통부 인공지능정책기획관은 “글로벌 선도기업과의 협력 강화와 AI 안전성 평가 체계 고도화가 필요한 시점”이라고 말했다.

AI안전연구소와 오픈AI는 이번 협약 체결 이후 실무 협의를 거쳐 구체적인 협력 과제와 일정을 확정할 예정이다.