과기정통부 ‘모두를 위한 AI’ 윤리원칙 만든다

3대 가치·7대 원칙 제시

해당이미지는 AI로 제작함. ⓒ

과학기술정보통신부가 인공지능(AI) 안전성과 신뢰성을 높이기 위한 ‘대한민국 인공지능 윤리원칙’ 마련에 속도를 낸다. 2020년 마련한 인공지능 윤리기준을 계승하면서 에이전틱 AI와 피지컬 AI 등 기술 발전과 인공지능 기본법 시행 이후 정책 여건을 반영한 새 자율규범을 제시하고 각계 의견을 추가로 수렴했다.

과기정통부와 정보통신정책연구원(KISDI)은 14일 서울 프레지던트호텔 모짤트홀에서 ‘모두를 위한 AI, 함께 만들어가는 인공지능 윤리원칙’을 주제로 대토론회를 개최했다. 산업계·시민단체·학계 전문가와 일반 시민, 기자 등 70여 명이 참석했다.

정부는 2025년부터 관련법에 따라 AI 안전·신뢰성 제고를 위한 자율규범인 ‘대한민국 인공지능 윤리원칙’을 수립해왔다. 과기정통부와 KISDI는 지난 5월 1차 초안을 공개한 뒤 산업계·시민단체·학계·관계부처, 일반 시민을 대상으로 의견을 수렴했다. 총 116건의 서면 의견을 반영해 윤리원칙(안)을 마련했다.

윤리원칙(안)은 ‘인간의 존엄성’ ‘사회의 공공선’ ‘인류의 지속가능성’을 3대 가치로 제시했다. 이를 바탕으로 ▲인간중심성 ▲프라이버시 보호 ▲공정성·포용성 ▲책임성 ▲안전성 ▲신뢰성 ▲투명성 등 7대 원칙을 제시했다.

이날 토론회에서는 이상욱 한양대학교 철학과·인공지능학과 교수(AI사회정책포럼 위원장)가 ‘AI 시대, 혁신과 신뢰를 위한 윤리원칙의 역할’을 주제로 발표했다.

이 교수는 AI 기술이 빠르게 변화하면서 개발·활용 과정에서 판단해야 할 사항이 복잡해지고 있다고 진단했다. 윤리원칙이 혁신을 제약하는 요소가 아니라 바람직한 AI 개발·활용을 돕고 실제 구현을 가능하게 하는 역할을 해야 한다고 강조했다.

이어 최우석 과기정통부 인공지능안전신뢰지원과장이 ‘대한민국 인공지능 윤리원칙’ 초안을 발표했다. 이후 문명재 연세대학교 행정학과 교수(AI사회정책포럼 상생·혁신분과장)를 좌장으로 종합토론을 진행했다.

변순용 서울교육대학교 윤리교육과 교수, 홍윤희 사단법인 무의 이사장, 윤명 소비자시민모임 사무총장, 이지은 참여연대 선임간사, 김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장, 김경훈 카카오 AI Safety 리더, 김경만 과기정통부 실장이 패널로 참여했다.

학계에서는 AI가 사회의 기본 된 만큼 AI를 위험하고 조심해야 하는 대상으로만 보는 인식에서 벗어날 필요가 있다는 의견이 나왔다.

시민사회에서는 AI 개발과 활용 과정에 다양한 시민이 참여하고 시민을 단순한 수혜자가 아닌 권리를 가진 주체로 바라봐야 한다는 지적이 제기됐다.

산업계에서는 윤리 원칙이 현장에서 참고할 수 있는 기준으로 기능하되 새로운 규제나 획일적인 의무로 작용해서는 안 된다는 의견을 냈다.

김경훈 리더는 윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다고 밝혔다. 김현주 본부장은 에이전트형 AI와 피지컬 AI 등 새로운 기술 이슈가 등장하는 상황에서 입법과 기술 발전 간 시차를 보완하는 역할로 윤리가 중요하다고 강조했다.

과기정통부는 공개토론회에서 제시된 의견을 종합적으로 검토해 윤리원칙(안)을 보완한 뒤 8월 제정·공표할 예정이다.

김경만 과기정통부 실장은 “대한민국 인공지능 윤리원칙은 AI 기본사회를 위해 우리 모두가 함께 지켜나가야 할 기준으로, 다양한 사회구성원의 목소리를 담기 위해 노력하고 있다”며 “이번 토론회에서 제기된 의견까지 충실히 반영해 윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 뒷받침 하겠다”고 말했다.