SKT, 독파모 'A.X K2' 산업 현장 투입…하반기 국방부 공급 추진

KG스틸·코넥서 제조 AI 에이전트 실증

후속 모델 조 단위로 확대…국산 NPU 최적화 병행

김태윤 SKT 파운데이션모델 담당이 사내 뉴스룸 인터뷰 중이다.ⓒSKT

SK텔레콤이 독자 인공지능(AI) 파운데이션 모델 'A.X K2'의 제조·국방 분야 적용에 나선다. KG스틸과 코넥에서 제조 특화 AI 에이전트를 실증하고, 하반기에는 A.X K2를 양자화해 국방부에 공급할 계획이다.

SK텔레콤은 4일 회사 뉴스룸에 김태윤 파운데이션모델 담당 인터뷰를 게재하고 A.X K2의 기술적 특징과 산업 적용 전략, 후속 모델 개발 방향을 공개했다.

A.X K2는 총 6880억개 매개변수를 갖춘 초거대 언어모델이다. SK텔레콤에 따르면 국내외 14개 벤치마크 평균 성능은 이전 모델인 A.X K1보다 32.2%p 높아졌으며, 장문 이해와 에이전트 관련 평가에서는 83.9%p 개선됐다.

긴 대화와 다단계 도구 호출, 대규모 문서 참조가 반복되는 AI 에이전트 환경을 겨냥해 자체 개발한 'SGA(Sparse Gated Attention)' 구조도 적용했다. 긴 문맥을 처리할 때 발생하는 속도 저하와 비용 부담을 줄이고 안정성을 높이기 위한 기술이다.

김 담당은 "입력 길이가 32K(단편 소설 분량)를 넘어서면 처리량과 지연 시간 측면에서 이점이 나타나며, 120K(장편 소설 분량) 입력을 기준으로 전체 토큰 처리량은 A.X K1보다 67.7% 개선됐다"고 설명했다.

SK텔레콤은 대형 모델이 고성능 추론을 담당하고, 경량 전문 모델이 산업 현장의 접점을 맡는 방식으로 A.X K2 라인업을 구성했다. 텍스트 모델과 함께 이미지와 문서를 이해하는 비전 언어모델 'A.X K2 VL Light-Preview', 음성을 인식·분석하는 'A.X K2 ALM', 크래프톤과 공동 개발한 'A.X K2 Raon-Speech'를 마련했다. 이를 각 산업 분야에 맞춤 투입해 시너지를 낸다는 구상이다.

제조 분야에서는 숙련공이 보유한 암묵지와 현장 곳곳에 흩어진 문서를 데이터로 정리하고, 이를 품질 판정과 생산 효율 개선에 활용하는 방안을 추진한다.

SK텔레콤은 반도체·자동차·화학 분야의 한국어 제조 AI 벤치마크를 자체 개발하고 데이터 확보부터 학습, 평가까지 연결하는 체계를 구축했다.

김 담당은 "KG스틸과 자동차 부품업체 코넥에서 생산 라인의 과거 불량 사례를 학습한 AI가 불량 원인을 분석하고 조치 방법을 안내하는 제조 특화 에이전트를 실증할 계획"이라고 밝혔다.

국방 등 보안이 중요한 영역에서는 기관 내부 폐쇄망에 모델을 구축하는 온프레미스 방식을 활용한다. 기업이 자체적으로 데이터센터를 구축하고 서버, 네트워크 장비 등을 직접 운영하는 방식으로, SK텔레콤은 A.X K1을 FP8·FP4·INT4 등 세 가지 형태로 양자화해 국방부에 제공했다. 하반기에는 A.X K2를 양자화해 공급할 예정이다.

김 담당은 " 양자화는 모델이 사용하는 메모리와 처리 부담을 줄여 자원이 제한된 환경에서도 모델을 안정적으로 구동할 수 있게 한다"고 설명했다.

SK텔레콤은 온프레미스 구축 경험을 토대로 공공·산업 분야 적용을 확대하고, 피싱 탐지 봇과 오디오 언어모델을 활용한 보이스피싱 실시간 탐지 등 보안 서비스에도 A.X 모델을 활용할 계획이다.

후속 모델은 조 단위 매개변수 규모로 확대한다. 에이전틱 강화학습과 사이버 보안, 긴 문맥 처리 효율, 고속 서빙 기술을 고도화하고 서울대·KAIST·크래프톤과 차세대 아키텍처 연구를 병행한다.

리벨리온과는 국산 신경망처리장치(NPU)에서 A.X 모델을 구동하기 위한 서빙 최적화와 상용 서비스 실증을 추진한다.

독자 AI 파운데이션 모델 프로젝트를 통해 개발한 모델은 Apache 2.0 라이선스로 배포한다. 개발자와 스타트업이 상업적 용도로 활용할 수 있도록 무료 라이선스 정책을 이어간다는 방침이다.

김 담당은 "SKT가 가려는 방향은 답하는 AI를 넘어 일하는 AI로, 그리고 세계가 인정하는 소버린 AI로라고 요약할 수 있다"며 "개방과 협력을 통해 국내 AI 생태계의 토대로 만들겠다"고 말했다.