Konflik yang tidak biasa sedang terjadi di persimpangan privasi dan hukum. Setelah putusan pengadilan yang mewajibkan OpenAI untuk menyimpan semua catatan percakapan pengguna dengan ChatGPT — termasuk obrolan yang sengaja dihapus dan anonim — pengguna yang marah melawan persyaratan tersebut. Argumen inti mereka: pengadilan secara tidak sengaja telah menyetujui program pengawasan besar yang tersembunyi.
Pengguna berpendapat bahwa mereka telah membagikan informasi sensitif — rincian pribadi, medis, keuangan, dan bisnis — dengan chatbot khususnya karena mereka mempercayai klaim OpenAI bahwa data ini dapat dihapus sepenuhnya. Sekarang, saat berita menyebar di forum, mereka telah mengetahui bahwa percakapan mereka yang "dihapus" secara efektif terjebak di server OpenAI di bawah perintah pengadilan.
Pengadilan, di pihaknya, telah menolak tuduhan semacam itu. Pengadilan menekankan bahwa mewajibkan perusahaan swasta untuk mempertahankan datanya sendiri secara ketat untuk kebutuhan proses hukum tertentu (gugatan pelanggaran hak cipta yang diajukan oleh raksasa media) tidak ada hubungannya dengan aktivitas penegakan hukum atau sistem pengawasan. Pengadilan menolak permintaan pengguna untuk campur tangan dalam kasus tersebut, menganggap kekhawatiran privasi sebagai "tangensial" terhadap masalah hak cipta inti.
Pengguna juga merasa terganggu oleh sikap OpenAI. Sejauh ini, OpenAI hanya mengonfirmasi niatnya untuk menantang perintah tersebut tetapi belum mengomentari kekhawatiran privasi yang spesifik. Sidang kunci di mana OpenAI akan menyampaikan argumennya melawan penyimpanan catatan dijadwalkan pada akhir Juni. Untuk saat ini, jutaan orang yang menggunakan ChatGPT untuk urusan sensitif tetap dalam ketidakpastian: apakah percakapan digital mereka yang paling pribadi akan menjadi bagian dari proses hukum, atau tetap selamanya tersegel dalam "kotak hitam" OpenAI?