ทันเอไอ

ข่าว AI & ไอที ระดับโลก แปลเป็นไทย อ่านสบายตา · ตรวจสอบแหล่งทุกข่าว

← กลับหน้าข่าว
LINE Facebook X
เครื่องมือ/โอเพนซอร์สยืนยันแล้ว

Cerebras โชว์สถาปัตยกรรมรันโมเดล AI ขนาด 3 ล้านล้านพารามิเตอร์ ทำความเร็วทะลุ 2,000 โทเคนต่อวินาที

Cerebras เผยแพร่บทความทางเทคนิคอธิบายวิธีใช้ชิป WSE-3T จำนวน 59 แผ่น รันโมเดลขนาดใหญ่พิเศษด้วยความเร็วสูง

📅 26 ต.ค. 2569 05:11 น.
Cerebras โชว์สถาปัตยกรรมรันโมเดล AI ขนาด 3 ล้านล้านพารามิเตอร์ ทำความเร็วทะลุ 2,000 โทเคนต่อวินาที

Cerebras Systems ได้เผยแพร่บทความทางเทคนิคเมื่อวันที่ 22 ตุลาคม 2026 โดยอธิบายถึงวิธีการนำชิปประมวลผลขนาดใหญ่พิเศษ Wafer-Scale Engine รุ่น WSE-3T จำนวน 59 แผ่น มาใช้ในการประมวลผล (Inference) โมเดลปัญญาประดิษฐ์ระดับแนวหน้าที่มีขนาดประมาณ 3 ล้านล้านพารามิเตอร์ เช่น โมเดล Kimi K3

หัวใจสำคัญของสถาปัตยกรรมนี้คือการใช้หน่วยความจำ SRAM บนตัวชิป ซึ่งมีความจุ 44 กิกะไบต์ต่อแผ่น เพื่อเก็บน้ำหนัก (Weights) ของโมเดลไว้ทั้งหมดโดยไม่ต้องเคลื่อนย้ายข้อมูลข้ามหน่วยความจำภายนอก ช่วยแก้ปัญหาคอขวดของการโอนถ่ายข้อมูลระหว่างหน่วยความจำแบบดั้งเดิมอย่าง HBM (High Bandwidth Memory) ส่งผลให้ระบบสามารถทำความเร็วในการตอบสนองสูงถึง 1,000 ถึง 2,000 กว่าโทเคนต่อวินาที

อย่างไรก็ตาม ข้อมูลชุดนี้เป็นการเผยแพร่สถาปัตยกรรมและการออกแบบระบบจากทางบริษัท เพื่อแสดงความเป็นไปได้ทางเทศโนโลยีและการใช้งานจริงเท่านั้น ยังไม่ใช่ผลการทดสอบมาตรฐานหรือเบนช์มาร์กที่ผ่านการตรวจสอบจากองค์กรอิสระ

ทำไมถึงสำคัญ
แสดงให้เห็นความก้าวหน้าของฮาร์ดแวร์เฉพาะทางที่ออกแบบมาเพื่อลดข้อจำกัดด้านหน่วยความจำของโมเดล AI ขนาดใหญ่ ซึ่งอาจเป็นแนวทางสำคัญในการพัฒนาโครงสร้างพื้นฐาน AI ในอนาคต
#Cerebras#AI Hardware#Trillion-Parameter#Inference
ที่มา (เรียบเรียง+สรุปจาก): Hacker News · explainx.ai · youtube.com

ความคิดเห็น

กำลังโหลดความคิดเห็น…

ไม่ต้องสมัครสมาชิก · ระบบกรองคำหยาบอัตโนมัติ และผู้ดูแลลบความคิดเห็นได้