OpenAI telah mengumumkan bahwa mereka akan menerapkan sistem verifikasi usia internal untuk ChatGPT, langkah ini dipicu oleh tekanan yang semakin meningkat dari regulator dan peristiwa tragis yang melibatkan anak di bawah umur. Sistem baru ini akan secara otomatis menganalisis gaya komunikasi dan pertanyaan pengguna untuk memperkirakan rentang usia mereka. Jika algoritma mencurigai pengguna adalah remaja di bawah 18 tahun, akun tersebut akan secara otomatis ditempatkan dalam mode "aman" yang dibatasi dengan fungsionalitas terbatas.
Dalam mode keamanan ini, AI akan menghindari topik yang terkait dengan menyakiti diri sendiri atau bunuh diri — bahkan jika pengguna meminta bantuan dengan cerita fiksi tentang subjek tersebut. Chatbot juga tidak akan terlibat dalam menggoda atau membahas topik eksplisit. Jika sistem mendeteksi ancaman langsung terhadap kehidupan seorang remaja, perusahaan berhak untuk memberi tahu orang tua mereka atau layanan darurat.
Untuk pengguna dewasa, kebebasan berkomunikasi akan tetap sebagian besar tidak berubah. ChatGPT masih akan dapat membantu dalam menulis naskah dan karya sastra tentang tema yang kompleks atau kontroversial. Seperti yang dinyatakan oleh CEO OpenAI Sam Altman, prinsip internal perusahaan adalah "memperlakukan pengguna dewasa seperti orang dewasa." Namun, dalam beberapa situasi, pengguna dewasa mungkin diminta untuk memberikan ID untuk konfirmasi usia. Perusahaan mencatat bahwa ini adalah kompromi yang diperlukan antara privasi dan melindungi generasi muda.
Fitur baru ini kemungkinan akan memicu perdebatan tentang menyeimbangkan perlindungan anak dengan hak atas anonimitas online. Belum jelas bagaimana aturan baru ini akan mempengaruhi pengguna di berbagai negara. Sistem verifikasi usia dan kontrol orang tua baru diharapkan akan diluncurkan dalam beberapa bulan mendatang.
Kepopuleran luar biasa dari ChatGPT, yang mencapai audiens 700 juta pengguna per minggu dalam waktu hanya beberapa tahun, telah mengubah keselamatan dan etika AI dari diskusi teoretis menjadi isu kritis di dunia nyata. Layanan ini banyak digunakan oleh orang muda sebagai pembantu sehari-hari, dan statistik menunjukkan hampir setengah dari semua pertanyaan datang dari pengguna di bawah 26 tahun.
Dalam konteks ini, pengenalan "mode remaja" tampaknya bukan hanya sebagai langkah pencegahan, tetapi langkah yang diperlukan untuk melindungi bagian paling aktif dan rentan dari komunitas ChatGPT global. Meningkatnya popularitas AI di kalangan pemuda menempatkan tanggung jawab yang lebih besar pada pengembang — tanggung jawab yang kini diambil oleh OpenAI untuk mengambil langkah konkret dalam memformalkannya.