Pengembang perdebatkan 'AI adalah alat yang buruk?', soroti masalah reliabilitas dan transparansi kode hasil generatif
Sebuah artikel opini memicu perdebatan di kalangan pengembang perangkat lunak mengenai kelemahan penggunaan AI dalam penulisan kode, dengan menekankan masalah pada verifikasi keakuratan dan transparansi output.
Artikel opini berjudul "AI is a bad tool" yang dikirimkan oleh pembaca bernama Hideki Idoru ke situs bytecode.news telah memicu diskusi luas di forum Hacker News, dengan hampir 100 komentar yang masuk.
Inti dari artikel tersebut berpendapat bahwa meskipun AI mungkin efektif untuk menyaring informasi, AI adalah alat yang "buruk" untuk sebagian besar tugas pengembangan perangkat lunak. Alasan utamanya adalah output yang dihasilkan AI bersifat "sepenuhnya buram" (completely opaque), sehingga sulit dan tidak praktis untuk memverifikasi apakah kode yang dihasilkan benar-benar akurat dan berkualitas. Penulis mengajukan pertanyaan krusial: "Siapa yang bisa memverifikasi bahwa apa yang dibuat oleh AI itu baik dan benar?"
Penulis juga mengangkat isu bahwa klaim mengenai kemampuan AI dalam menemukan celah keamanan perangkat lunak belum memiliki bukti yang kuat, yang mencerminkan kurangnya kepercayaan terhadap kemampuan AI yang masih kurang dalam pemeriksaan ketat.
Namun, di utas diskusi Hacker News, terdapat pandangan yang sangat kontras. Seorang pengguna berkomentar, "Saya belum menggunakan frontier models (model AI skala besar yang paling canggih) selama setidaknya satu tahun dan hampir tidak bisa membayangkan bagaimana caranya kembali menulis kode secara manual." Pendapat ini menunjukkan bahwa banyak pengembang telah mengintegrasikan AI ke dalam alur kerja mereka hingga menjadi bagian yang sangat penting, dan mereka lebih memilih menggunakan model yang sesuai dengan tugasnya daripada sekadar mengandalkan model terbesar. Perdebatan ini mencerminkan dikotomi pandangan yang masih ada di industri pengembangan perangkat lunak, antara pihak yang menekankan efisiensi dan kecepatan dengan pihak yang mengkhawatirkan reliabilitas serta keamanan.
Isu ini mencerminkan tantangan yang dihadapi para pengembang saat harus memilih antara kecepatan pengembangan yang ditawarkan AI dengan risiko ketidakakuratan dan keamanan perangkat lunak yang mungkin ditimbulkan.