ทันเอไอ

ทีมนักวิจัยตั้งคำถามใหม่ การปรับจูนโมเดลภาษา LLM ยังจำเป็นต้องใช้ข้อความที่มนุษย์อ่านได้หรือไม่

งานวิจัยล่าสุดบน arXiv เผยทางเลือกใหม่ในการปรับจูนโมเดลภาษาขนาดใหญ่โดยไม่พึ่งพาข้อความภาษาธรรมชาติ

วงการปัญญาประดิษฐ์กำลังก้าวไปอีกขั้น เมื่อมีงานวิจัยชิ้นใหม่ตั้งคำถามเชิงแนวคิดว่า การปรับจูน (Fine-tuning) โมเดลภาษาขนาดใหญ่ หรือ LLM (Large Language Models) ยังมีความจำเป็นต้องใช้ข้อความที่มนุษย์อ่านได้หรือไม่ โดยทีมนักวิจัยได้ศึกษาและพัฒนาแนวทางที่มุ่งเน้นการใช้ข้อมูลสังเคราะห์แทนข้อความปกติ

หัวใจสำคัญของงานวิจัยชิ้นนี้คือการเสนอวิธีที่เรียกว่า DASA (Desired-Update-Aligned Synthetic Data) ซึ่งทำงานโดยอาศัยฟีดแบ็กจาก Gradient ของการกระตุ้น (Activation-gradient feedback) จากโมเดลอ้างอิงที่ถูกตรึงไว้ เพื่อนำมาชี้นำการปรับแต่งค่า Embedding ของข้อมูลสังเคราะห์โดยตรง โดยไม่จำเป็นต้องสนใจว่าข้อความนั้นจะต้องมีความสละสลวยทางภาษาหรือมนุษย์ต้องอ่านเข้าใจได้

ผลลัพธ์จากการทดสอบพบว่า แนวทางดังกล่าวสามารถนำไปใช้ในการปรับจูนโมเดลสำหรับงานปลายทางได้อย่างมีประสิทธิภาพ โดยให้ผลลัพธ์ที่เทียบเท่าหรือเหนือกว่าการใช้ข้อความภาษาธรรมชาติทั่วไป แถมยังช่วยเพิ่มความรวดเร็วในกระบวนการฝึกฝนโมเดลอีกด้วย ทั้งนี้ แม้การใช้งานจริงจะป้อนเวกเตอร์เหล่านี้เข้าสู่ระบบโดยตรง แต่ยังมีการแปลงกลับเป็น Token ปกติบ้างในขั้นตอนการตรวจสอบคุณภาพเชิงลึก