'모두의 AI' 전에, '모두의 보안'부터 [기자수첩-ICT]

외산 AI 넘겠다는 청사진 앞서 국민 데이터 지킬 방안부터 제시해야

배경훈 부총리 겸 과학기술정보통신부 장관이 4일 오전 서울 중구 한국프레스센터에서 열린 '모두의 AI 프로젝트 사업자 간담회' 에서 기념촬영을 하고 있다. 앞줄 왼쪽부터 백준호 퓨리오사AI 대표, 김성훈 업스테이지 대표, 이경일 솔트룩스 대표, 박윤영 KT 대표, 배경훈 부총리, 정재헌 SK텔레콤 대표, 정신아 카카오 대표, 김지훈 SK텔레콤 본부장.ⓒ과학기술정보통신부

"성공하는 '모두의 AI'를 반드시 만들어내자."

"어떤 분은 '실패를 용인해야 된다'고 하는데, 사실 모두의 AI만큼은 반드시 성공시켜야 될 과제라고 볼 수 있다."

배경훈 부총리 겸 과학기술정보통신부 장관이 4일 ‘모두의 AI’ 프로젝트 착수 간담회에서 재차 강조한 말이다. 전 국민의 일상과 국가 산업 생태계에 직접 연결되는 대국민 서비스인 이번 사업의 성패가 갖는 무게를 보여준다.

이러한 기대에 부응하듯 통신·IT 3개 컨소시엄이 내놓은 계획을 들여다보면, 면면이 화려하다. 카카오톡을 통해 주민등록등본을 발급하거나, 스피커로 오늘의 코디를 추천받을 수 있다. 전화만으로 병원 대기 환자 수를 확인하는 서비스도 나온다. 접근성과 편의성을 높여 국민이 쓰기 쉬운 AI를 만들겠다는 것이 공통된 목표다.

그래서일까. 이날 서비스 개발계획 발표 현장은 경연 대회를 방불케 했다. ‘1인 N에이전트’, ‘실행형 AI’ 등 외산 AI를 넘어서는 기술 청사진이 잇따랐다. 카카오 컨소시엄은 올해 12월 월간 방문자(MAU) 500만명을 시작으로 2030년 3000만명을 달성하겠다는 공격적인 목표를 제시했다. 다른 컨소시엄들도 AI의 수용 능력과 서비스 규모 등을 강조하며 2년 내 1000~2000만을 달성하겠다는 수치를 내놨다.

서비스 고도화는 소버린 AI 측면에서 물러설 수 없는 기술 과제라는 점도 현장에 참석한 컨소시엄 대표들의 다짐이었다. 우리 국민이 쓸 서비스라면 우리 언어와 생활습관, 문화를 가장 잘 이해하는 국산 AI가 필요하고, 이를 정부가 잘 밀어줘야 성공할 수 있다는 취지다.

정부 예산 2500억원이 투입되는 이 프로젝트는 엔비디아 AI 가속기 B200 512장을 활용해 9~10월 베타 서비스를 거쳐 12월 정식 서비스된다.

자, 이제 연말부터 전 국민이 모두의 AI에 모든 정보를 털어 넣고 모든 귀찮은 일을 마음껏 떠넘길 일만 남은 걸까?

큰일 날 소리다. 정보를 털어넣으려면 그 정보를 어떻게 지키고 활용할 것인가에 대한 약속도 받아 내야 한다. 하지만 이날 발표 자리에서는 국민의 데이터, 즉 '개인정보를 어떻게 지키고 활용할 것인가'에 대한 설명이 부재했다. 이후 기업들이 내놓은 별도의 보도자료에서도 마찬가지였다.

전국민 AI 시대를 열겠다는 ‘모두의 AI’가 국민의 일상에 깊숙이 들어갈수록 보안의 중요성은 더욱 커진다. 공공·금융·의료·부동산 등 민감정보를 다루는 서비스라면 더욱 그렇다. AI가 개인의 정보를 이해하고 대신 업무를 수행하는 수준으로 발전할수록, AI에 맡겨지는 데이터의 범위 역시 넓어질 수밖에 없다.

그렇기에 보안은 서비스의 부가 기능이 될 수 없다. 오히려 국민이 믿고 사용하도록 하는 전제조건이어야 한다. 소버린 AI를 천명하는 이유도 단순히 외산 모델을 국산 기술로 대체하는 것에서 그쳐서는 안 된다. 국민의 삶과 산업에 축적된 핵심 데이터를 우리 스스로 안전하게 관리하고 통제할 수 있어야 진정한 AI 주권이라고 말할 수 있는 것이다.

아무리 뛰어난 파운데이션 모델과 고성능 반도체 인프라를 갖추더라도 개인정보 유출이나 보안 사고가 한 번 발생하면 세상은 뒤집힌다. 전 국민이 이용하는 AI가 자칫 개인정보 유출의 표적으로 전락할 수 있다.

이번 프로젝트에 참여하는 SK텔레콤과 KT 등 통신사들은 이미 개인정보 유출로 큰 파장을 일으킨 기업들이다. 그만큼 국민의 민감 정보를 다시는 유출시키지 않기 위한 대책은 반드시 다뤄졌어야 한다.

정부 역시 책임에서 자유로울 수 없다. 개인정보 유출 사고를 이유로 이들에게 강력한 제재를 가하면서 동시에 전 국민이 사용할 AI 서비스를 만들도록 요구하고 있기 때문이다. 그렇다면 과거 사고와 무엇이 달라졌는지, 국민 데이터를 어떻게 보호할 것인지 앞장서 주문했어야 했다.

장밋빛 청사진만 앞다퉈 내놓느라 서비스 설계 단계부터 보안이 어떻게 적용되는지, 민감정보를 어떤 방식으로 보호하는지, 사고 발생 시 어떤 대응 체계를 가동하는지 국민이 궁금해할 것임은 망각한 듯 하다.

‘우리가 외산보다 낫다’는 식의 기술 경쟁은 필요하다. 그러나 국민 입장에서는 성능과 실용성 못지않게 ‘데이터를 이 AI에 맡겨도 안전하다’는 믿음도 중요하다. 몇백만, 몇천만 MAU 수치를 확보하겠다는 거창한 목표보다 중요한 것은 국민이 안심하고 서비스를 이용할 수 있게 한다는 신뢰 형성이다.

'모두의 AI'는 전국민을 상대로 한 보편적 서비스다. 수도관을 통해 식수를 공급하듯 '모두의 AI'를 전국민이 보편적으로 사용토록 하려면, 물맛을 강조하기에 앞서 그 물을 마셔도 탈이 나지 않는다는 걸 중명해야 한다.