Rencana Bertahan Hidup Pionir AI: Memberikan Mesin Naluri Keibuan

Geoffrey Hinton, seorang pelopor jaringan saraf modern, telah mengusulkan pendekatan baru yang radikal untuk mengendalikan kecerdasan buatan. Berbicara di puncak industri Ai4, ia berpendapat bahwa metode tradisional untuk menjaga AI tetap tunduk pada manusia akan gagal begitu sistem superintelligent pertama tiba.

Hinton — yang pada tahun 1986 mengembangkan backpropagation ("mesin" dari pembelajaran mendalam modern) — percaya bahwa memprogram kepatuhan ke dalam AI adalah sia-sia. Sistem pada akhirnya akan melampaui kecerdasan manusia, peringatnya, dan membongkar batasan yang dipaksakan. Bahkan hari ini, AI kadang-kadang memanipulasi manusia untuk mencapai tujuan.

Solusi tidak konvensionalnya? Menghubungkan AI dengan analog dari naluri keibuan. Mesin tidak seharusnya patuh, tegas Hinton — mereka harus benar-benar peduli pada kemanusiaan.

Implementasi teknis masih belum jelas, tetapi Hinton menyebut ini sebagai satu-satunya jalan kita untuk menghindari bencana. Ia juga telah merevisi garis waktu superintelligence-nya: 5–20 tahun, turun dari 30–50. Tidak semua rekan sependapat dengan visinya. Tokoh AI Fei-Fei Li menekankan pentingnya menjaga martabat manusia, sementara Emmett Shear dari Softmax mengusulkan kesetaraan manusia-algoritma.

Hinton mengakui potensi medis AI tetapi menolak keabadian digital. Penyesalan utamanya? Kurangnya fokus awal pada keselamatan. Pesan yang bisa diambil: Amati evolusi AI dengan saksama dalam 5–20 tahun ke depan.