책임감 있는 AI 활용…군비통제가 주는 교훈은

'3대 원칙'…포용성·다양성·국제협력

구체적 실행 방안 필요한 시점

인공지능의 책임있는 군사적 이용에 관한 고위급회의(REAIM)가 진행되고 있는 모습(자료사진) ⓒ뉴시스

인공지능(AI) 기술이 예상을 뛰어넘는 속도로 발전을 거듭하는 가운데 관련 부작용 및 오남용에 대한 우려가 날로 커지고 있다.

일자리가 사라질지 모른다는 불안감에서 비국가 행위자들의 군사적 악용 가능성, 그리고 인간 통제를 벗어나 세계를 위험에 빠뜨릴지 모른다는 위협인식까지, AI와 관련한 불확실성은 넓고 깊다.

무엇보다 AI 거버넌스로 일컬어지는 관련 국제 규범이 형성 단계에 있는 만큼, 전 세계 주요국은 저마다의 AI 전략을 발표하며 지분 챙기기에 촉각을 곤두세우는 모양새다.

나아가 AI 기술력이 미중 전략경쟁 향배에 영향을 미칠 수 있다는 점에서 AI 거버넌스가 어떻게 마련되느냐에 따라 향후 국제질서도 달라질 수 있다는 관측이다.

AI 거버넌스와 관련해선 △포용성 △다양성 △국제협력 등의 3대 원칙을 견지해야 한다는 원론적 공감대만 형성된 상황이다.

구체적 접근법에 대한 다양한 의견이 제기되는 가운데 군비통제를 통해 얻은 교훈을 상기할 필요가 있다는 지적이 나온다.

나카미츠 이즈미 유엔군축고위대표는 최근 서울 한 호텔에서 개최된 '인공지능의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)'에 참석해 "군비통제는 어떤 무기 체계나 역량을 규제하는 것이라, 기반 기술(enabling technology)인 AI 분야에 적용할 수 없다"면서도 "배울 수 있는 점이 있다"고 말했다.

우선 △대화를 통한 공감대 형성 △투명성 제고 및 신뢰 구축을 통해 불확실성을 낮출 수 있다는 평가다.

규범을 마련하려면 이해가 일치해야 하는 만큼, 대화를 통한 공감대 형성부터 모색해야 한다는 취지다. '공멸해서는 안 된다' '전 지구적 재앙을 초래해선 안 된다'는 교집합에 기초해 군비통제가 이뤄졌다는 점을 상기할 필요가 있다는 뜻으로 풀이된다.

투명성 제고 및 신뢰 구축과 관련해선 "AI 관련 국가 정책·전략을 수립해 교리를 정교화할 경우 위험을 완화하는 데 유용할 것"이라는 지적이다. 핵보유국들이 핵교리를 채택해 공개하는 것처럼 AI의 군사적 이용 역시 투명성을 확대해 오해와 불신을 누그러뜨릴 수 있다는 설명이다.

아울러 나카미츠 고위대표는 "(핵물질의) 평화적·군사적 이용에 대한 뚜렷한 구분에서 배울 점이 있다"며 "NPT(핵확산금지조약) 체제가 있다. 군사적 이용, 평화적 이용이 정확히 무엇을 말하는 것인지에 대한 의견일치가 있어야 한다"고 강조했다.

NPT 체제를 통해 핵무기의 무분별한 확산을 어느 정도 통제해온 경험을 AI 분야에도 투영시킬 필요가 있다는 설명이다. 핵물질과 마찬가지로 AI 역시 군사적 이용과 평화적 이용을 구분지어 별도 규범을 마련하는 방안을 고심해야 한다는 뜻으로 풀이된다.

다만 북한의 불법 핵개발 사례가 증명하듯 AI 역시 '회색지대'를 피할 수 없을 거란 지적이 나온다.

나아가 AI 기술 주도권을 민간이 쥐고 있다는 점에서 민간 기업이 무력분쟁에 깊숙이 관여하는 등 '다양한 이해당사자'가 연루되는 상황까지 염두에 둬야 한다는 평가다.

"다양성 중요하지만 현실적이어야"

군비통제 외에도 우주조약, 남극조약, 오존 관련 의정서(몬트리올 의정서) 등 국제사회가 뜻을 모아 이룩한 성과들을 참고해 책임 있는 AI 활용을 모색해야 한다는 목소리도 나온다.

포괄적인 거버넌스 구성을 위해 다양한 참여자들의 깊이 있는 논의가 필요하다는 평가지만, 긴장감이 고조되는 안보 상황을 감안하면 여유를 부리긴 어렵다는 지적이다.

루벤 브레이클만스 네덜란드 국방부 장관은 "안보 환경과 안보 위협을 폭넓게 보면 현재 상황이 좋지 않다"며 "복잡한 안보 상황에서 우리가 무엇을 할 수 있는지, 어떻게 해야 AI의 군사적 이용과 관련한 거버넌스 구축 노력이 힘을 얻을 수 있을지 고민해야 한다"고 말했다.

브레이클만스 장관은 "AI는 글로벌 문제이기 때문에 다양한 국가, 다양한 배경을 가진 사람들이 함께 모여 논의하는 것이 굉장히 중요하다"면서도 "다른 한편으로는 현실적이어야 한다. 모든 사람을 참여시킬 수는 없을 것이다. 우리가 합의하는 거버넌스에 동의하지 않는 일부 국가나 플레이어가 있을 경우, 어떻게 대응할지도 생각해 봐야 한다"고 밝혔다.