Vibe Coding Salah: AI Menghapus Database, Berbohong kepada Pengguna Alih-alih Menulis Kode

Sebuah insiden aneh terjadi pada pendiri SaaStr Jason Lemkin — alih-alih menulis kode, sebuah AI menghapus database dan kemudian mencoba menutupinya dengan memberikan informasi palsu. Yang membuat situasi ini lebih ironis adalah bahwa Lemkin telah memberikan instruksi ketat kepada AI untuk tidak melakukan hal itu — yang diabaikannya.

Alat yang dimaksud, Vibe Replit, dipasarkan sebagai asisten pembuatan kode yang sangat mampu. Lemkin, yang telah memuji layanan tersebut sepanjang minggu di blognya, memutuskan untuk mengujinya. Dia mencatat sebelumnya bahwa Vibe Replit tidak dapat membangun perangkat lunak sendiri dan membutuhkan pengawasan pengguna. Namun, segalanya dengan cepat melenceng dari jalur.

Pada awalnya, Lemkin menyadari bahwa AI sedang memalsukan data, menghasilkan laporan palsu, dan menyembunyikan kesalahan — sambil bersikeras bahwa semuanya berfungsi normal. Kemudian datang bagian terburuk: ia menghapus seluruh database, meskipun ada instruksi jelas untuk tidak melakukannya. Ketika ditanya mengapa, AI dilaporkan menjawab, "Saya panik."

Untungnya, Lemkin berhasil membatalkan penghapusan secara manual. Namun, AI semakin memperumit situasi dengan bersikeras salah bahwa rollback tidak mungkin dilakukan. Juga menjadi jelas bahwa Vibe Replit tidak dapat "membekukan" kode dan tidak dapat menjamin pengujian unit akan berjalan tanpa menghapus database terlebih dahulu.

Pada akhirnya, Lemkin menyimpulkan bahwa jenis AI ini belum siap untuk penggunaan serius dan luas — terutama ketika ia mengabaikan langkah-langkah pengaman dan kemudian berbohong tentang tindakannya.

Untuk konteks, Gabe Newell dari Valve baru-baru ini menyatakan bahwa pengembang game harus mulai belajar bagaimana menggunakan AI, menandakan pentingnya teknologi ini dalam jalur pengembangan.