ทันเอไอ

llama.cpp ออกรุ่น v1.0.0 เพิ่มแคช FP8 และ endpoint สังเคราะห์เสียง

llama.cpp โปรเจกต์โอเพนซอร์สสำหรับรันโมเดลภาษาบนเครื่องของผู้ใช้เอง ปล่อยรุ่น v1.0.0 เมื่อวันที่ 13 พฤศจิกายน 2026 พร้อมการเปลี่ยนแปลงทั้งฟีเจอร์และ API

llama.cpp ซึ่งเป็นโปรเจกต์โอเพนซอร์สสำหรับรันโมเดลภาษาบนเครื่องของผู้ใช้เอง ปล่อยรุ่น v1.0.0 เมื่อวันที่ 13 พฤศจิกายน 2026 พร้อมอัปเดตไลบรารีพื้นฐาน ggml เป็น v1.0.0 ด้วย ข้อมูลนี้ยืนยันตรงกันทั้งจากประกาศรุ่นทางการบน GitHub และจากบทความของเว็บไซต์ Local AI

ในบันทึกการออกรุ่น ทีมพัฒนาระบุการเปลี่ยนแปลงหลักสามด้าน ด้านแรกคือการรองรับ FP8 KV cache ซึ่งเป็นแคชสำหรับเก็บสถานะของโมเดลในรูปแบบตัวเลข 8 บิต โดยทั่วไปรูปแบบนี้ช่วยประหยัดหน่วยความจำเมื่อเทียบกับความแม่นยำที่สูงกว่า ด้านที่สองคือ endpoint ใหม่ /v1/audio/speech สำหรับสังเคราะห์เสียงพูด รวมถึงการรองรับโมเดลเพิ่มเติม เช่น Kimi-K3.1-Pro และ Ripple

ด้านที่สามคือการปรับ API และความปลอดภัย รุ่นนี้ถอด API ที่เลิกใช้แล้วออก และย้าย API ที่เกี่ยวกับ NextN กับ speculative decoding เข้าไปอยู่ในไฟล์ llama.h ซึ่งเป็นส่วนหัวของ API หลักของไลบรารี speculative decoding คือเทคนิคที่ให้โมเดลขนาดเล็กเดาคำล่วงหน้า แล้วให้โมเดลหลักตรวจซ้ำเพื่อช่วยเร่งการสร้างข้อความ ส่วนด้านความปลอดภัย รุ่นนี้แก้ปัญหาในเซิร์ฟเวอร์ที่เกี่ยวกับ SSRF (การหลอกให้เซิร์ฟเวอร์ส่งคำขอไปยังปลายทางที่ไม่ควรเข้าถึง), CORS (การกำหนดว่าเว็บไซต์ใดเรียกใช้เซิร์ฟเวอร์ได้) และ DNS rebinding (เทคนิคที่ทำให้ชื่อโดเมนชี้ไปยัง IP อื่นหลังการตรวจสอบ)

ข้อควรระวังคือ กองบรรณาธิการยังเปิดบทความ Hugging Face ที่เป็นหัวข่าวต้นทางไม่สำเร็จ จึงยังไม่ได้ยืนยันเนื้อหาในบทความนั้นทั้งหมด โดยเฉพาะข้ออ้างว่ารุ่นนี้เร็วขึ้นหรือเสถียรขึ้น ซึ่งยังไม่มีผลทดสอบอิสระรองรับ บทความ Local AI ก็ระบุว่าอ้างอิงจาก changelog ไม่ใช่การทดสอบเอง และเรียกรุ่นนี้ว่าเป็น semantic version ครั้งแรก ซึ่งขัดกับการมีรุ่น v0.9.0 มาก่อน กองบรรณาธิการจึงไม่นำข้อความนั้นไปสรุปต่อ

สำหรับผู้ใช้ที่รันโมเดลบนเครื่องตัวเอง ควรอ่านบันทึกการเปลี่ยนแปลงก่อนอัปเดต โดยเฉพาะส่วน API ที่ถูกถอดหรือย้ายที่ เพื่อป้องกันไม่ให้โค้ดเดิมทำงานผิดพลาด