롯데이노베이트 '아이멤버', 1200억 파라미터 모델로 업그레이드

거대 모델 가볍게 구동하는 양자화 기술…기업들의 고비용AI도입 장벽 낮춰

롯데이노베이트 AI 플랫폼 아이멤버(Aimember)ⓒ롯데이노베이트

롯데이노베이트는 AI 플랫폼 아이멤버(Aimember)의 언어 모델을 업그레이드했다고 26일 밝혔다.

이번 업그레이드된 언어 모델은 복잡한 질의에서도 맥락을 정리해 답변을 구성하는 것이 특징이다.

이를 가능케 하는 요소는 언어 모델 규모의 확장이다. 파라미터(매개변수)가 기존 320억개(32B)에서 1200억개(120B)로 업그레이드됐다.

객관적인 성능 평가도 우수한 지표를 보였다. 수능 국어 영역 기반의 ‘수능국어QA(CSATQA)’에서 78.31점을 기록한 데 이어, 한국어 종합 능력을 평가하는 ‘해례 벤치(HAE_RAE BENCH)’(78.15점), ‘전문 지식 추론(KMMLU-Pro)’(60.67점), ‘수학 추론(HRM8K-MMMLU) (92.98점) 등 4대 주요 지표에서 주요 오픈소스 모델 대비 우수한 성능을 입증했다.

카카오(Kakao) 벤치마크에서도 국내 타사 모델을 상회했다고 회사 측은 강조했다.

롯데이노베이트는 외부 API에 의존하지 않고 자체 인프라에서 운영 가능한 ‘오픈소스 기반 구축형 모델’로, 기업 환경에서 가장 중요하게 여겨지는 데이터 보안성과 컴플라이언스, 커스터마이징 유연성을 모두 충족시켰다고 강조했다.

속도와 효율성도 개선됐다. 양자화(Quantization) 기술이 적용된 최신 모델 아키텍처를 기반으로 시스템을 최적화해, 동일한 GPU 자원 환경에서 추론 속도를 기존 대비 약 3배 향상시켰다.

이를 통해 기존 32B 모델 운영 인프라만으로도 120B급 대형 모델을 안정적으로 구동할 수 있게 되었으며, 사용자 체감 응답 속도도 빨라져 실시간 업무 활용도를 크게 높였다.

언어 모델 업그레이드와 함께 글로벌 업무 환경을 고려한 다국어 지원도 강화됐다. 기존 한국어 중심이던 플랫폼에 영어와 일본어를 추가했으며, 단순 번역을 넘어 해당 언어로 플랫폼을 직접 조작하고 사용할 수 있도록 UI/UX를 확장했다. 이를 통해 해외 계열사 및 법인에서도 아이멤버를 원활하게 도입할 수 있는 기반을 마련했다.

롯데이노베이트 관계자는 “앞으로도 아이멤버의 성능과 속도, 보안 수준을 지속적으로 업그레이드하는 한편, 산업 및 업무 특화 모델을 꾸준히 발전시켜 기업들의 AI 혁신을 이끌겠다”고 말했다.