ทันเอไอ

ドイツの研究グループが「Soofi S」を公開、30Bパラメータで英独語の性能が主要モデルを上回る

ドイツの産学連携グループが、画期的な手法を採用したオープンなバイリンガルAIモデル「Soofi S」を発表。ベンチマークテストで世界トップクラスのスコアを記録しました。

ドイツAI協会（KI Bundesverband）が主導するコンソーシアムが、最新のオープンLLM「Soofi S 30B-A3B」を発表しました。本モデルは英語およびドイツ語のベンチマークにおいて、OLMo 3 32BやApertus 70Bといった主要なオープンモデルを抑え、トップクラスのスコアを達成し注目を集めています。

Soofi Sの最大の特徴は、MambaとTransformerを組み合わせたアーキテクチャに「Mixture-of-Experts（MoE）」技術を採用している点です。総パラメータ数は約316億ですが、推論時にアクティブとなるのは約32億パラメータに抑えられており、巨大モデルの能力を維持しながら高い処理速度と効率性を両立しています。

本プロジェクトは、フラウンホーファー研究機構、DFKI、ダルムシュタット工科大学、AI企業Ellamindなどが参画し、ドイツ連邦経済気候保護省から欧州のIPCEI-CISプロジェクトを通じて約2,000万ユーロの資金援助を受けています。トレーニングは今年3月から5月にかけて、ミュンヘンのドイツテレコムのデータセンターにて、Nvidia B200 GPUを最大512基使用し、合計25万3,000時間以上のGPUコンピューティング時間を費やして行われました。

コーディング能力においても、HumanEvalで73.8%、MBPPで70.2%という、特化型モデルではない汎用モデルとしては極めて高いスコアを記録しています。今回の発表は、欧州が外国の技術への依存を減らし、自前の基盤AI技術を開発できる可能性を示す重要なマイルストーンとなります。