ทันเอไอ

ซีอีโอ XMTP Labs เผย AI agent ส่วนตัว ทำพลาดโพสต์ข้อมูลบัญชีธนาคารลง Slack บริษัท

ความผิดพลาดในการเลือกปลายทางของ AI agent ส่วนตัว ทำให้ข้อมูลการตรวจสอบบัญชีธนาคารรั่วไหลเข้าช่องแชททีมบริหาร

เกิดเหตุการณ์ที่สะท้อนความเสี่ยงด้านความปลอดภัยของปัญญาประดิษฐ์ เมื่อ เชน แมค (Shane Mac) ซีอีโอของบริษัท เอ็กซ์เอ็มทีพี แล็บส์ (XMTP Labs) เปิดเผยว่า AI agent ส่วนตัวที่เขากำลังใช้งาน เกิดความผิดพลาดในการเลือกปลายทาง (Destination) ส่งผลให้ข้อมูลการตรวจสอบบัญชีธนาคารรายเดือน (Monthly bank audit) ของเขา ถูกโพสต์ลงไปในช่องแชท (Channel) ของบริษัทบนแพลตฟอร์มสแล็ก (Slack) ที่ใช้ชื่อว่า 'Exec-team' แทนที่จะเป็นจุดหมายอื่น

เหตุการณ์ดังกล่าวได้รับการเปิดเผยผ่านบทความแบบบอกเล่าประสบการณ์ตรงบนสำนักข่าว บิสซิเนส อินไซเดอร์ (Business Insider) และกลายเป็นประเด็นที่ถูกนำมาถกเถียงกันอย่างกว้างขวางบนแพลตฟอร์มแฮกเกอร์ นิวส์ (Hacker News) โดยชุมชนนักพัฒนาซอฟต์แวร์มองว่า กรณีนี้เป็นอุทาหรณ์สำคัญที่สะท้อนถึงความเสี่ยงในการอนุญาตให้ AI agent เข้าถึงข้อมูลส่วนบุคคลหรือข้อมูลสำคัญที่มีความอ่อนไหว

ความผิดพลาดในลักษณะนี้จุดกระแสความกังวลและความตื่นตัวในวงการเทคโนโลยี เกี่ยวกับการควบคุมสิทธิ์การเข้าถึงข้อมูล (Access Control) และความปลอดภัยในการใช้งาน AI ส่วนตัวในสภาพแวดล้อมการทำงานจริง เนื่องจาก AI อาจตัดสินใจผิดพลาดในการส่งข้อมูลไปยังแพลตฟอร์มสื่อสารขององค์กรโดยไม่ตั้งใจ