ผู้ใช้ไทย-เทศฮือฮา! ใช้โอเพนซอร์สรวมแรม 4 เครื่อง รันโมเดล Qwen3.8-27B บนแล็ปท็อปเก่าแรม 12GB สำเร็จ
นักพัฒนาสายโอเพนซอร์sโชว์ผลงานสุดเจ๋ง รวมหน่วยความจำจากอุปกรณ์หลายเครื่องในเครือข่าย เพื่อรันโมเดลภาษาขนาดใหญ่บนแล็ปท็อปสเปกต่ำที่ปกติทำไม่ได้
ปกติแล้วการรันโมเดลภาษาขนาดใหญ่แบบ Dense (27 พันล้านพารามิเตอร์) อย่างรุ่น Qwen3.8-27B ที่เปิดตัวโดย Alibaba เมื่อกลางเดือนสิงหาคม 2026 ในเวอร์ชันควอนไทเซชันแบบ 4-bit จะต้องใช้หน่วยความจำแรม (RAM) และแรมการ์ดจอ (VRAM) รวมกันประมาณ 15GB ถึง 17GB เป็นอย่างน้อย
แต่ล่าสุดมีผู้ใช้งานจริงทดลองนำโมเดลดังกล่าวไปรันบนแล็ปท็อป Windows รุ่นเก่าที่มีหน่วยความจำตัวเครื่องเพียง 12GB ซึ่งหากดูตามสเปกแล้วถือว่าเป็นไปไม่ได้เลยที่จะรันโมเดลขนาดนี้เดี่ยวๆ ทางออกจึงเป็นการใช้ซอฟต์แวร์โอเพนซอร์สเพื่อเชื่อมต่อและรวมหน่วยความจำ (Pooling Memory) จากอุปกรณ์ทั้งหมด 4 เครื่องที่อยู่ในเครือข่ายเดียวกัน เข้ามาเป็นพูลหน่วยความจำส่วนกลางตัวเดียว ทำให้โมเดลสามารถเปิดใช้งานขึ้นมาได้
อย่างไรก็ตาม วิธีนี้มีข้อแลกเปลี่ยนที่ชัดเจนคือเรื่องของความเร็วในการประมวลผลที่ช้ามาก โดยมีความเร็วอยู่ที่ประมาณ 2 tokens ต่อวินาทีสำหรับเวอร์ชันควอนไทเซชันแบบ 4-bit และอาจต้องพิจารณาใช้เวอร์ชัน 2-bit เพื่อให้ใช้งานได้เหมาะสมขึ้น ทั้งนี้เทคนิคการกระจายโหลดหน่วยความจำในลักษณะนี้ สอดคล้องกับทิศทางของเครื่องมือโอเพนซอร์สสมัยใหม่ เช่น NVIDIA PAIR (Personal AI Router) ที่เปิดตัวในช่วงต้นเดือนกันยายน 2026 เพื่อช่วยให้ผู้ใช้ทั่วไปสามารถรวมพลังฮาร์ดแวร์ในบ้านมาใช้งานร่วมกันได้
แสดงให้เห็นว่าข้อจำกัดด้านฮาร์ดแวร์ราคาแพงสามารถบรรเทาได้ด้วยซอฟต์แวร์โอเพนซอร์สและการแชร์ทรัพยากร เปิดโอกาสให้ผู้ใช้งานทั่วไปที่มีคอมพิวเตอร์สเปกไม่สูง สามารถทดลองรันโมเดลปัญญาประดิษฐ์ขนาดใหญ่ระดับหลายหมื่นล้านพารามิเตอร์ได้ด้วยตัวเองที่บ้าน