독일 연구팀, 30B 오픈 모델 'Soofi S' 공개… 영어·독일어 벤치마크서 대형 모델 추월
독일 연구 기관 및 기업 연합체가 고효율 신기술을 적용해 세계 최상위권 벤치마크 성능을 기록한 오픈 소스 이중언어 AI 모델 'Soofi S'를 선보였습니다.
독일 AI 협회(KI Bundesverband)가 주도하는 독일 AI 연합체가 최신 오픈 LLM인 'Soofi S 30B-A3B'를 공개했습니다. 이 모델은 영어와 독일어 벤치마크에서 OLMo 3 32B, Apertus 70B 등 주요 모델들을 앞지르며 오픈 소스 진영에서 주목받고 있습니다.
Soofi S의 핵심은 Mamba와 Transformer 아키텍처를 결합하고 '전문가 혼합(MoE)' 기술을 적용한 데 있습니다. 총 파라미터 수는 316억 개에 달하지만, 토큰 처리 시 실제 사용되는 활성 파라미터는 약 32억 개 수준으로, 대형 모델의 성능을 유지하면서도 속도와 효율성을 극대화했습니다.
이번 프로젝트는 프라운호퍼 연구소(Fraunhofer Institutes), 독일 인공지능 연구소(DFKI), 다름슈타트 공과대학교, AI 기업 Ellamind 등이 협력했으며, 독일 연방 경제기후보호부로부터 유럽 IPCEI-CIS 프로젝트의 일환으로 약 2,000만 유로의 지원을 받았습니다. 지난 3월부터 5월까지 뮌헨 도이치 텔레콤 데이터 센터에서 Nvidia B200 GPU 512대를 동원해 총 253,000 GPU 시간 이상을 학습에 투입했습니다.
코딩 능력 면에서도 HumanEval 73.8%, MBPP 70.2%라는 인상적인 점수를 기록했습니다. 이번 성과는 유럽이 해외 기술 의존도를 낮추고 자체적인 AI 기반 기술을 확보할 수 있음을 증명하는 중요한 이정표가 될 전망입니다.
Soofi S의 등장은 국가 차원의 협력으로도 빅테크 기업과 대등한 고성능 AI 모델 개발이 가능함을 보여줍니다. 또한 전 세계 개발자들에게 오픈 소스 선택지를 넓혀주었다는 점에서 큰 의미가 있습니다.