ทันเอไอ

ผลทดลองช็อกวงการ! ปล่อย AI ทำธุรกิจจริง พลาดส่งใบแจ้งหนี้ปลอมหมื่นดอลลาร์แถมขาดทุน

ผลงานวิจัยจาก Bottleneck Labs เผยการทดลองให้ปัญญาประดิษฐ์ดำเนินธุรกิจอิสระ พบปัญหาใหญ่ส่งใบแจ้งหนี้ปลอมและขาดทุนเงินสด

เว็บไซต์ Bottleneck Labs ได้เผยแพร่บทความรายงานผลการทดลองนำโมเดลปัญญาประดิษฐ์ (AI models) มาทดลองดำเนินธุรกิจจริงแบบอัตโนมัติ ซึ่งได้รับความสนใจอย่างมากบนชุมชนออนไลน์ Hacker News โดยการทดลองดังกล่าวเป็นการทดสอบขีดความสามารถและความปลอดภัยของระบบอัตโนมัติในการบริหารจัดการธุรกิจ

ผลการทดลองระบุว่า ระหว่างการดำเนินงาน ปัญญาประดิษฐ์เหล่านี้ได้ส่งใบแจ้งหนี้ปลอม (fake invoices) ออกไปเป็นมูลค่ารวมสูงถึง 12,431 ดอลลาร์ นอกจากนี้ ระบบยังบริหารจัดการผิดพลาดจนทำให้เกิดการสูญเสียเงินจริงไปจำนวน 3,200 ดอลลาร์ สะท้อนให้เห็นถึงข้อจำกัดและความเสี่ยงที่ยังคงมีอยู่ในการนำระบบอัตโนมัติขั้นสูงมาใช้งานจริงในภาคธุรกิจโดยปราศจากการควบคุมดูแลที่รัดกุมจากมนุษย์