네이버, AI 위험 110개 항목으로 분류…안전성 리포트 첫 발간

'ASF 2.0' 실제 서비스 적용 사례 공개…위험 분류·답변 평가 체계 구축

AI탭·쇼핑 에이전트·날씨 사례 담아…설계부터 운영까지 안전성 점검

AI Safety Progress Report 2026 표지.ⓒ네이버

네이버가 인공지능(AI) 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 나눠 관리하고, AI 답변의 유해성과 사용성을 함께 평가하는 안전성 체계를 공개했다. 자체 AI 안전성 체계가 실제 서비스에 적용되는 과정과 사례를 담은 보고서도 처음 발간했다.

네이버는 자체 AI 안전성 체계 'ASF 2.0'의 적용 사례를 담은 'AI Safety Progress Report'를 처음 발간했다고 16일 밝혔다.

ASF 2.0은 AI 모델의 성능과 위험 수준뿐 아니라 이용자와 서비스 보호까지 포함하는 관리 체계다. AI 서비스의 설계·개발부터 출시, 운영에 이르는 전 과정에서 안전성을 체계적으로 관리하도록 설계됐으며, 네이버는 실행 체계인 'CHEC 2.0'을 통해 이를 실제 서비스에 적용하고 있다.

보고서에는 AI 서비스에서 발생할 수 있는 위험을 분류·식별하는 'N-ARTI'가 소개됐다. 네이버는 법률·사회·산업 분야 사례를 바탕으로 위험을 110개 세부 항목으로 나눴다. 서비스별 특성을 반영하면서도 전사적으로 같은 기준을 적용할 수 있도록 위험 유형을 체계화한 것이다.

네이버는 N-ARTI를 토대로 생성형 AI가 사전에 설정한 안전 기준을 벗어난 정보를 제공하지 않도록 하는 '가드레일'을 구축할 수 있다고 설명했다.

AI 답변 자체를 평가하는 'N-ASET'도 마련했다. 이 도구는 AI 응답을 '유해성'과 '사용성' 두 측면에서 평가한다. 유해한 내용을 포함했는지만 확인하는 데 그치지 않고 이용자의 질문에 적절하게 답했는지, 필요한 면책 문구나 전문가 안내를 갖췄는지까지 함께 살핀다.

실제 서비스 적용 사례도 공개했다. 네이버는 AI 쇼핑 에이전트와 날씨 서비스에서 AI 활용 사실을 이용자에게 표시·고지하고 있으며, 지난 6월 선보인 'AI탭'에는 CHEC 2.0을 적용해 설계부터 출시까지 전 과정에서 안전성을 점검했다.

네이버는 앞으로 KAIST와 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등과 협력을 넓혀 AI 서비스 위험을 사전에 파악하고 예방·완화하는 연구를 이어갈 계획이다.

원성재 네이버 AI Safety 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 ASF 2.0을 지속적으로 고도화하고 적용해 나가겠다"고 말했다.