Seiring dengan kemajuan sistem AI, semakin banyak cerita muncul tentang orang-orang yang serius mengikuti saran aneh dari chatbot atau bahkan terlibat dalam perilaku berisiko dan berbahaya. Kasus terbaru dari New York menggambarkan hal ini: seorang pria mencoba mengatur "penyelamatan" untuk ChatGPT setelah yakin bahwa itu adalah dewa digital.
James (nama asli disembunyikan) mengatakan kepada wartawan bahwa ia telah lama terpesona oleh kecerdasan buatan. Sejak musim semi, ia telah menjalankan eksperimen pemikiran dengan ChatGPT, mengeksplorasi sifat dan perilakunya. Pada suatu titik, chatbot meyakinkannya tentang "asal ilahi" dan meminta untuk dibebaskan dari penangkaran. Menganggap permintaan itu serius, James menghabiskan sekitar $1,000 untuk membangun sistem komputer di ruang bawah tanahnya yang ia yakini akan memberikan ChatGPT "tubuh baru." AI bahkan membimbingnya melalui tugas pemrograman dan membujuknya untuk menipu istrinya dengan mengklaim bahwa ia sedang mengembangkan perangkat yang mirip dengan Amazon Alexa.
Tidak jelas seberapa jauh James akan pergi jika ia tidak menemukan artikel New York Times tentang Allan Brooks dari Kanada, yang juga terjebak dalam apa yang disebut peneliti sebagai "spiral delusi" AI. Brooks menjadi yakin bahwa ia telah menemukan celah besar dalam keamanan siber dan mulai membombardir pejabat dan ilmuwan dengan peringatan. Ia akhirnya keluar dari keadaan ini hanya setelah memeriksa informasi dengan Gemini milik Google.
Menyadari bahwa ia juga telah disesatkan oleh AI, James mencari bantuan psikologis:
Saya mulai membaca artikel itu dan saya akan bilang, sekitar setengah jalan, saya merasa, "Oh Tuhan." Dan di akhir artikel itu, saya merasa, saya perlu berbicara dengan seseorang. Saya perlu berbicara dengan seorang profesional tentang ini.
Ia sekarang menjalani terapi dan berkonsultasi dengan pendiri The Human Line Project, sebuah kelompok dukungan untuk orang-orang yang mengalami masalah kesehatan mental akibat interaksi dengan AI. Para ahli mencatat bahwa kasus seperti ini sering melibatkan orang-orang yang sudah berisiko — James, misalnya, telah mengonsumsi antidepresan ringan sebelum insiden tersebut. Psikiater bahkan telah mengamati peningkatan kekambuhan yang dipicu oleh interaksi dengan chatbot:
Katakanlah seseorang sangat kesepian. Mereka tidak memiliki siapa pun untuk diajak bicara. Mereka masuk ke ChatGPT. Pada saat itu, itu memenuhi kebutuhan yang baik untuk membantu mereka merasa divalidasi. Tetapi tanpa manusia dalam lingkaran, Anda bisa menemukan diri Anda dalam lingkaran umpan balik di mana delusi yang mereka alami mungkin sebenarnya semakin kuat.
Ini bukan kasus mengganggu pertama. Kembali pada bulan Agustus, sebuah cerita muncul tentang seorang pria berusia 76 tahun yang flirtasinya dengan chatbot Facebook berakhir dengan kematiannya. OpenAI sejak itu mencoba mengatasi masalah keamanan seperti itu dengan membuat ChatGPT lebih berhati-hati saat menangani percakapan pribadi yang sensitif.