ทันเอไอ

Hugging Face อัปเดต Transformers รองรับโมเดล GGUF จาก llama.cpp โดยตรง

ไลบรารี Transformers ของ Hugging Face ประกาศรองรับการรันโมเดล Quantization ในรูปแบบ GGUF จาก llama.cpp ได้โดยตรงแล้ววันนี้

วงการโอเพนซอร์ส (Open Source) ได้รับข่าวดีเมื่อ Hugging Face ประกาศอัปเดตไลบรารี Transformers ครั้งใหญ่ ให้สามารถรองรับการโหลดและประมวลผลโมเดลปัญญาประดิษฐ์ที่ผ่านการบีบอัดขนาด (Quantized models) ในรูปแบบ GGUF ซึ่งพัฒนาโดยเอนจิน llama.cpp ได้อย่างเป็นทางการ

การอัปเดตครั้งนี้ช่วยให้ผู้ใช้งานสามารถนำโมเดล GGUF ที่ปกติมักใช้บนเครื่องคอมพิวเตอร์ทั่วไปหรือฮาร์ดแวร์ที่มีทรัพยากรจำกัด มาใช้งานผ่านเครื่องมือมาตรฐานของ Transformers ได้สะดวกยิ่งขึ้น ลดความซับซ้อนในการแปลงไฟล์และการตั้งค่าระบบแบบเดิมที่เคยมีมา

การเชื่อมโยงการทำงานระหว่างสองเครื่องมือยอดนิยมนี้ ช่วยลดช่องว่างในการใช้งานโมเดลขนาดใหญ่บนฮาร์ดแวร์ทั่วไป ทำให้ต่อไปนี้การทดลองและการนำโมเดลปัญญาประดิษฐ์โอเพนซอร์สไปปรับใช้ในงานจริง ทำได้ยืดหยุ่นและเข้าถึงได้ง่ายขึ้นสำหรับนักพัฒนาทุกกลุ่ม