ทันเอไอ

Liquid AI、LFM2.5-DSparkを発表、推論速度が最大3.2倍に向上

Liquid AIが「LFM2.5-DSpark」ドラフターモデル群をリリース、品質を落とさずに推論速度を最大3.2倍に高速化

Liquid AIは、Speculative Decoding（先読みデコーディング）技術用の「Drafter（ドラフター）」モデル群である「LFM2.5-DSpark」を発表した。LFM2.5ファミリのAIモデルの推論処理速度を、出力品質を維持したまま向上させる。

発表によると、LFM2.5-DSparkは推論速度を最大約3.2倍（具体的には3.18倍）に向上させる。データセンター向けの高性能GPU（H100など）からMacBookなどのモバイル端末まで幅広くサポートしている。

今回のリリースでは、LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bの主要モデルに対応する3つのモデルが同時に公開された。さらに、大規模言語モデル実行用の人気フレームワークであるSGLangやllama.cppとも優れた互換性を持つよう設計されている。