ทันเอไอ

OpenAI เผยเบื้องหลังสร้างระบบ Voice AI เรียลไทม์ latency ต่ำ รองรับผู้ใช้กว่า 900 ล้านคนต่อสัปดาห์

ทีมวิศวกร OpenAI เล่าการรีบิลด์ WebRTC stack ใหม่เพื่อให้ AI สนทนาด้วยเสียงได้ลื่นไหลเป็นธรรมชาติ ลดความล่าช้าที่ทำให้บทสนทนาขาดจังหวะ

OpenAI เผยรายละเอียดทางวิศวกรรมผ่านบทความชื่อ "How OpenAI delivers low-latency voice AI at scale" เล่าขั้นตอนการสร้างระบบ Voice AI แบบเรียลไทม์ที่ให้ผู้ใช้คุยกับ AI ด้วยเสียงได้เป็นธรรมชาติ โดยทีมวิศวกรต้องรีบิลด์ WebRTC stack (มาตรฐานการสื่อสารเสียง/วิดีโอแบบเรียลไทม์ผ่านเว็บ) ใหม่ เพื่อให้ระบบมี latency (ความล่าช้าในการตอบสนอง) ต่ำ ขยายสเกลได้ทั่วโลก และรองรับการสนทนาแบบผลัดกันพูดอย่างราบรื่น เนื้อหานี้ถูกรายงานซ้ำโดย ByteByteGo ซึ่งยืนยันว่าอิงจากข้อมูลที่ทีมวิศวกร OpenAI เปิดเผยต่อสาธารณะ

เหตุผลที่ต้องทำก็ชัดเจน — Voice AI จะรู้สึกเป็นธรรมชาติได้ต่อเมื่อบทสนทนาเคลื่อนไปเร็วเท่ากับการพูดจริง เมื่อเครือข่ายกลายเป็นอุปสรรค ผู้ใช้จะได้ยินปัญหาทันที ไม่ว่าจะเป็นช่วงหยุดที่น่าอึดอัด จังหวะพูดที่ถูกตัด หรือการแทรกคำพูดที่มาช้าเกินไป ปัญหาเหล่านี้ไม่ใช่เรื่องของโมเดลฉลาดแค่ไหน แต่เป็นเรื่องของโครงสร้างระบบเครือข่ายทั้งหมด

ความท้าทายอยู่ที่สเกลขนาดใหญ่ ระบบต้องรองรับผู้ใช้งานมากกว่า 900 ล้านคนต่อสัปดาห์ทั่วโลก พร้อมการเชื่อมต่อที่รวดเร็วและ round-trip time (เวลารับ-ส่งข้อมูลไป-กลับ) ที่ต่ำและเสถียร ตัวเลขนี้ปรากฏตรงกันทั้งในบทความของ OpenAI และรายงานของ ByteByteGo

ทั้งนี้ การ implement ครั้งแรกของ OpenAI เป็น Go service เดี่ยว ก่อนที่ทีมจะพัฒนาต่อจนเป็นระบบที่ขับเคลื่อนการสนทนาด้วยเสียงแบบต่อเนื่องในปัจจุบัน ซึ่งสะท้อนว่าประสบการณ์คุยกับ AI ที่ลื่นไหลอย่างที่ผู้ใช้คุ้นเคยวันนี้ มีวิศวกรรมด้านเครือข่ายและโครงสร้างพื้นฐานที่ซับซ้อนอยู่เบื้องหลังมากกว่าที่หลายคนคิด