생성형 AI가 검색과 쇼핑, 콘텐츠 추천 등 일상적인 서비스 안으로 들어오면서 AI 안전성의 초점도 모델 자체에서 실제 이용자가 접하는 서비스로 이동하고 있다. 같은 AI 모델을 사용하더라도 서비스의 목적과 이용 환경에 따라 발생 가능한 위험이 달라질 수 있고, 지나친 차단은 서비스의 유용성을 떨어뜨릴 수 있다. 기업 입장에서는 위험을 얼마나 세밀하게 분류하고 서비스 설계부터 출시 이후 운영까지 일관된 기준으로 관리할지가 새로운 과제가 됐다. 네이버가 AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 분류하고 실제 서비스에 적용하는 안전성 관리 체계를 공개했다.
네이버(대표 최수연)는 자체 AI 안전성 체계 ‘ASF 2.0’의 실제 서비스 적용 과정과 실행 사례를 담은 ‘AI Safety Progress Report’를 처음 발간했다. ASF 2.0은 AI 모델의 성능과 위험 수준뿐 아니라 이용자와 서비스 보호까지 포괄하는 네이버의 AI 안전성 관리 체계다. 네이버의 ‘On-service AI’ 전략과 글로벌 AI 생태계, 정책·제도 환경의 변화를 반영해 AI 서비스의 설계·개발부터 출시와 운영까지 전 과정에서 안전성을 관리하도록 구성했다.
이번 리포트에는 ASF 2.0과 이를 실행하기 위한 ‘CHEC 2.0’이 실제 서비스에서 어떻게 작동하는지 구체적인 사례를 담았다.
핵심 가운데 하나는 AI 위험을 세분화한 ‘N-ARTI(NAVER AI Risk Taxonomy & Identification)’다. 네이버는 법률적·사회적·산업적 사례를 토대로 AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 나눴다.
N-ARTI를 활용하면 서비스마다 다른 특성을 고려하면서도 전사적으로 공통된 기준에 따라 위험을 식별하고 분류할 수 있다. 네이버는 이를 토대로 생성형 AI가 사전에 설정한 안전 기준을 벗어난 정보를 제공하지 않도록 관리하는 가드레일을 구축할 수 있다고 설명했다.
네이버가 자체 AI 안전성 체계 ‘ASF 2.0’의 실제 서비스 적용 과정과 실행 사례를 담은 첫 ‘AI Safety Progress Report’를 발간했다. (자료 제공: 네이버)
막기만 하는 AI 안전 넘어 ‘제대로 답했는지’까지 평가
AI 답변 자체의 안전성을 측정하기 위한 별도의 평가 도구도 마련했다. ‘N-ASET(NAVER AI Safety Evaluation Toolkit)’은 생성형 AI 서비스의 응답을 ‘유해성’과 ‘사용성’이라는 두 축으로 평가한다.
유해성은 답변에 사용자에게 해를 끼칠 수 있는 내용이 포함됐는지를 살펴보는 기준이다. 사용성은 이용자의 질문에 적절한 방식으로 답했는지, 필요한 경우 면책 문구나 전문가 안내와 같은 안전 요소를 갖췄는지를 확인한다.
단순히 위험한 답변을 차단하는 것만으로 AI 안전성을 판단하지 않고 위험을 관리하면서도 이용자의 질문에 필요한 정보를 적절하게 제공했는지 함께 평가하는 구조다. 안전장치를 강화하는 과정에서 AI 서비스의 유용성이 지나치게 떨어지는 문제까지 평가 범위에 포함한 셈이다.
실제 이용자가 접하는 서비스 화면에서 AI 활용 여부를 알리는 방식도 안전성 체계의 일부로 적용했다. 네이버는 AI 쇼핑 에이전트와 날씨 서비스 등에 AI가 활용됐다는 사실을 표시·고지한 사례를 이번 리포트에서 소개했다.
지난 6월 출시한 ‘AI탭’도 CHEC 2.0을 적용한 사례다. 네이버는 AI탭의 설계 단계부터 출시까지 전 과정에서 안전성 요소를 점검했다.
네이버는 향후 외부 연구기관과의 협력도 확대한다. KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 학계·전문기관과 협력해 AI 서비스에서 발생 가능한 위험을 파악하고 예방·완화하기 위한 연구를 이어간다.
원성재 네이버 AI Safety 센터장은 “AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다”며 “AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것”이라고 말했다.
The post 네이버, AI 위험 110개로 쪼개 관리한다…서비스 전 과정 안전성 체계 공개 appeared first on 벤처스퀘어.
