ทันเอไอ

Lucius AI Usulkan Pendekatan agar AI Penulis Dokumen Tender 'Menolak Berbohong' Ketimbang Mengarang Konten Mengambang

Startup Lucius AI mengungkap konsep desain AI untuk membantu menulis dokumen tender, dengan mengajarkan sistem untuk 'menolak menulis' ketika tidak ada bukti pendukung, alih-alih mengarang cerita sendiri

Masalah besar dalam penggunaan AI untuk membantu menulis dokumen tender (Tender/Bid) adalah AI sering 'berhalusinasi' (Hallucination) atau mengarang informasi palsu agar konten terlihat kredibel. Dalam pekerjaan tender, hal ini bisa menjadi bencana karena dapat membuat perusahaan kehilangan kredibilitas atau bahkan didiskualifikasi dari proses tender.

Davor Jerković, pendiri Lucius AI, menceritakan dalam blog perusahaannya bahwa timnya memilih mengatasi masalah ini dengan cara yang berbeda: alih-alih berusaha membuat AI selalu menulis konten secara lengkap, sistem dirancang untuk 'menolak menulis' (Refusal) pada bagian yang tidak memiliki data pendukung.

Mekanisme kerjanya adalah sistem akan memeriksa kemampuan nyata peserta tender dibandingkan dengan persyaratan dalam dokumen sebelum mulai menulis. Jika ditemukan bagian yang tidak memiliki bukti pendukung yang memadai, sistem tidak akan mengarangnya, melainkan mencantumkannya di 'slot mitra' (Partner slot) sambil menampilkan banner peringatan di bagian atas dokumen tentang item apa saja yang belum terverifikasi, seperti kurangnya kualifikasi di bidang tertentu, sehingga tim dapat mencari mitra untuk melengkapinya.

Yang lebih menarik lagi, sistem akan menolak menyusun dokumen sejak awal jika setelah dievaluasi tender tersebut dinilai 'tidak berpeluang menang' atau tidak layak untuk diikuti, demi mencegah lahirnya dokumen yang tampak bagus tetapi tidak berdasarkan kenyataan.

Konsep ini sejalan dengan suara analisis di kalangan teknologi hukum dan pengadaan, yang memandang bahwa untuk pekerjaan yang menuntut akurasi tinggi, karakteristik 'tidak tahu maka tidak menulis' pada AI jauh lebih penting dan diperlukan ketimbang berusaha tampil pintar melebihi kemampuan sebenarnya. Meski demikian, informasi ini hanya berasal dari blog pengembang itu sendiri, sehingga perlu dilihat dengan hati-hati karena bisa jadi merupakan bagian dari promosi produk perusahaan.