ทันเอไอ

เอเจนต์ AI ส่งต่อข้อมูลกันเอง โดยไม่มีคนตรวจระหว่างทาง

องค์กรที่ให้ AI หลายตัวทำงานต่อกัน อาจไม่รู้ว่าข้อมูลในเอกสารสุดท้ายมาจากไหนและผ่านมือใครบ้าง

ลองนึกภาพพนักงานขายคนหนึ่งถามเอเจนต์ AI ว่าลูกค้ารายนี้ควรได้ราคาเท่าไร เอเจนต์ตัวนี้จะไปดึงข้อมูลจากหลายแหล่งพร้อมกัน ทั้งระบบราคาที่จำกัดสิทธิ์การเข้าถึง บันทึกการสื่อสารภายในองค์กร และใบเสนอราคาเก่าที่เก็บไว้ในคลัง

บทความของ MIT Technology Review ชี้ว่า คำตอบที่ได้อาจดูถูกต้องในสายตาของเอเจนต์เอง จากนั้นเอเจนต์ตัวที่สองจะนำข้อมูลชุดนั้นไปร่างข้อเสนอให้พนักงานขาย โดยไม่มีคนเข้ามาตรวจทั้งสองจุดที่ข้อมูลถูกส่งต่อ

ประเด็นสำคัญคือ data lineage หรือสายข้อมูล ซึ่งหมายถึงการติดตามว่าข้อมูลแต่ละชิ้นมาจากที่ใด ผ่านการประมวลผลขั้นตอนไหนบ้าง และใครมีสิทธิ์ใช้ เมื่อสายนี้ขาดหาย องค์กรจะตอบไม่ได้ว่าตัวเลขในข้อเสนอมาจากแหล่งที่ควรเข้าถึงได้หรือไม่

บทความที่ได้รับมาถูกตัดไปก่อนถึงข้อสรุปเรื่องความเสียหายที่อาจเกิดขึ้นจริง จึงยังไม่ทราบว่าเคยมีกรณีข้อมูลรั่วหรือผิดพลาดแล้วหรือไม่ และยังไม่มีข้อมูลว่าองค์กรใดนำแนวทางนี้ไปใช้แล้วบ้าง