ทันเอไอ

Liquid AI 发布 LFM2.5-DSpark，模型推理速度最高提升 3.2 倍

Liquid AI 推出 LFM2.5-DSpark 模型草稿套件，在不降低质量的前提下，将推理速度最高提升 3.2 倍。

Liquid AI 宣布推出 LFM2.5-DSpark，这是一套用于“Speculative Decoding（投机解码）”技术的“Drafter（草稿模型）”，旨在配合 LFM2.5 系列人工智能模型，在保持输出质量不变的同时，大幅提升处理速度或推理性能。

根据公布的数据，LFM2.5-DSpark 可将推理速度提升约 3.2 倍（具体数字为 3.18 倍），支持从数据中心级高性能 GPU（如 H100）到 MacBook 等便携设备的各种硬件运行。

在此次发布中，开发团队同步推出了 3 个版本的模型，以适配该系列的主力模型：LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B。此外，该工具在设计上能够与 SGLang 和 llama.cpp 等运行大语言模型的流行框架完美兼容。