네이버, AI 안전성 관리 범위 서비스 전 주기로 넓힌다

8일 인공지능안전 서울 포럼서 ASF 2.0 공개

이용자와 서비스 중심으로 안전성 관리 범위 확장

네이버 ASF 2.0 공식 이미지. ⓒ네이버

네이버가 AI 안전성 관리 체계를 개편한다. 기존에는 AI 모델의 성능과 위험 수준을 주로 점검했다면, 앞으로는 AI가 적용된 서비스의 설계와 운영, 이용자에게 미치는 영향까지 함께 살핀다.

네이버는 8일 서울 강남구에서 열린 인공지능안전 서울 포럼에서 AI 안전성 체계 ‘ASF (AI Safety Framework) 2.0’을 공개했다. ASF는 네이버가 지난 2024년 AI 서울 서밋에서 처음 선보인 AI 안전성 관리 체계다.

2.0은 기존 체계에 더해 이용자 보호 개념까지 담아낸 버전이다. 생성형 AI가 검색과 쇼핑, 콘텐츠 추천 등 실제 이용자 서비스에 적용되는 사례가 늘면서, 사용자들이 실제로 경험하는 서비스를 중심으로 안전성을 관리하기 위함이다.

발표를 맡은 송대섭 네이버 AI Safety Policy 리더는 “AI를 둘러싼 기술 서비스 및 정책과 제도 환경이 변화하고 있다”며 “하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 설명했다.

네이버는 이번 개편에 온서비스 AI 전략과 멀티 모델 환경 확산, AI기본법 제정 등 제도 변화를 반영했다.

평가 기준도 세분화했다. ASF 2.0은 AI의 성능만 보는 방식에서 벗어나 맥락, 활용 사례, 영향을 함께 따진다. 같은 AI 기능이라도 검색, 쇼핑, 창작 등 쓰이는 방법에 따라 이용자에게 주는 결과가 달라질 수 있기 때문이다.

이를 위해 네이버는 AI 위험 분류 체계와 AI 영향 평가 매트릭스를 활용한다. AI 서비스에서 발생할 수 있는 위험을 유형별로 나누고, 활용 영역과 적용 범위에 따라 예상 영향을 평가하는 구조다. 이후에는 안전성 평가와 이용자 피드백을 운영 과정에 반영한다.

내부 실행 체계도 함께 개편했다. 네이버는 ASF 2.0을 서비스 개발과 출시 과정에 적용하기 위해 ‘CHEC 2.0’을 마련했다. CHEC는 AI 윤리와 안전성을 점검하는 전사 검토 절차다. 지난 6월 선보인 AI탭은 CHEC 2.0을 거쳐 설계부터 출시 단계까지 안전성 점검을 받았다. 네이버는 AI탭을 포함해 이미 운영 중이거나 앞으로 출시할 AI 기반 서비스에도 같은 체계를 적용할 계획이다.

송 리더는 “네이버는 AI 윤리 글로벌 흐름과 국내 정책 환경에 맞춰 AI 안전성 체계를 지속적으로 구체화해 나가고 있다”며 “앞으로도 AI 안전성에 대한 경험과 노하우를 축적하고 학계, 정책, 외부 전문가 및 다양한 기관과의 협업을 통해 공유하고 발전시켜 나갈 것”이라고 말했다.