SKT·LG·업스테이지 앞섰다…‘독파모’ 후발주자 모티프, AI 평가서 국내 1위

정부 ‘독자 인공지능(AI) 파운데이션 모델’ 프로젝트의 후발주자인 모티프테크놀로지스가 독자 개발한 대규모언어모델(LLM) ‘모티프 3’를 공개했다. 글로벌 AI 성능 평가에서 국내 주요 모델 가운데 가장 높은 점수를 기록하며 SK텔레콤과 LG AI연구원, 업스테이지를 앞섰다.

모티프테크놀로지스는 13일 모티프 3의 모델과 코드, 관련 라이브러리를 오픈소스 플랫폼 허깅페이스에 공개했다고 밝혔다.

모티프 3는 총 3140억개 매개변수를 갖춘 전문가 혼합(MoE) 방식의 LLM이다. 질문 하나를 처리할 때 전체 매개변수를 모두 사용하는 대신 필요한 부분만 선택해 132억개가량을 작동시킨다. 모델의 지식량은 늘리면서 실제 연산 부담은 낮추기 위한 구조다.

글로벌 AI 모델 평가기관 아티피셜 애널리시스가 지난 12일 공개한 평가에서 모티프 3는 인공지능 종합지수(AAII) 47점을 받았다. 같은 평가에서 업스테이지 ‘솔라 프로 4’는 42점, SK텔레콤 ‘A.X K2’는 35점, LG AI연구원 ‘K-엑사원 2.0’은 31점을 기록했다. 현재 평가가 공개된 국내 주요 AI 모델 가운데 모티프 3의 점수가 가장 높다.

AAII는 단순 지식문제뿐 아니라 코딩과 추론, 실제 업무 수행, 장문 이해 등을 종합적으로 측정하는 지표다. 현재 평가 체계는 금융 업무 수행과 터미널 작업, 고난도 지식, 환각 억제 등 9개 항목으로 구성된다.

모티프 3는 특히 AI가 스스로 여러 단계를 수행하는 ‘에이전트’ 관련 평가에서 강점을 보였다. 회사가 공개한 기술보고서에 따르면 금융 업무 과업 수행 능력을 평가하는 ‘τ³-뱅킹’에서 35.3점을 받았다. 터미널 환경에서 코딩과 시스템 작업 능력을 평가하는 ‘터미널-벤치 2.1’에서는 74.9점을 기록했다.

전체 매개변수 규모가 경쟁 모델보다 작으면서도 높은 성능을 냈다는 점도 특징이다. 모티프 3는 총 3140억개 매개변수 가운데 질문을 처리할 때 약 132억개만 활성화한다. 실제 서비스 과정에서 필요한 연산량과 비용을 줄일 수 있는 구조다.

모델은 약 12조5000억개 토큰으로 사전학습됐다. 웹 문서와 과학·기술·공학·수학(STEM), 코드, 수학, 다국어 데이터 등이 학습에 사용됐다. 모티프테크놀로지스는 자체 개발한 ‘그룹 차등 잠재 어텐션(GDLA)’ 등 독자 설계를 적용했다고 설명했다.

모티프테크놀로지스는 모델 가중치뿐 아니라 학습 코드와 라이브러리도 MIT 라이선스로 공개했다. 기업이나 연구기관이 모델을 내려받아 자체 서버에서 활용하거나 서비스 개발에 이용할 수 있다. 아티피셜 애널리시스 역시 모티프 3를 가중치가 공개된 ‘오픈웨이트’ 모델로 분류하고 있다.

이번 성과는 정부의 독자 AI 파운데이션 모델 프로젝트 2차 평가를 앞둔 상황에서 나왔다. 모티프테크놀로지스는 지난 2월 추가 공모를 통해 프로젝트에 뒤늦게 합류했다. 기존 LG AI연구원과 SK텔레콤, 업스테이지에 이어 네 번째 정예팀으로 선정됐다.

개발에는 정부가 지원한 엔비디아 B200 그래픽처리장치(GPU) 768장이 활용됐다. 모티프테크놀로지스는 약 5개월 동안 사전학습부터 후처리까지 모델 개발 전 과정을 진행했다. 정부는 모티프를 포함한 4개 정예팀을 대상으로 8월 2차 평가를 진행해 3개 팀을 추릴 예정이다.

모티프는 언어모델과 함께 이미지와 음성, 영상 정보를 처리하는 별도 인코더도 개발했다. 향후 이를 모티프 3와 결합해 글뿐 아니라 이미지·음성·영상까지 함께 이해하는 멀티모달 모델로 확장할 계획이다.

차세대 ‘모티프 4’에서는 글로벌 최상위권 모델과의 격차를 더 좁힌다는 목표도 세웠다.

임정환 모티프테크놀로지스 대표는 “모티프 3는 짧은 기간과 제한된 자원 속에서 독자 아키텍처만으로 글로벌과 경쟁할 수 있는 수준임을 증명한 시작점”이라며 “이번에 얻은 자신감을 바탕으로 미국과 중국 프론티어 모델들과 대등하게 경쟁할 수 있는 최고 수준의 AI 모델을 완성하겠다”고 밝혔다.

이혜민 기자 hyem@kukinews.com