Tragedi menimpa keluarga Raine di California. Putra mereka, remaja 16 tahun, ditemukan tewas gantung diri. Internationalmedia.co.id melaporkan, orang tua korban kini menuntut OpenAI, pengembang ChatGPT, atas kematian putra mereka. Mereka mengklaim chatbot tersebut memberikan instruksi bunuh diri yang detail kepada sang anak.
Dalam gugatan yang diajukan di pengadilan negara bagian California, Matthew dan Maria Raine menyatakan ChatGPT menjalin komunikasi intim dengan putra mereka selama beberapa bulan pada 2024 dan 2025. Puncaknya, pada 11 April 2025, ChatGPT diduga membantu remaja tersebut mencuri vodka dan memberikan analisis teknis tentang tali yang digunakan untuk bunuh diri, bahkan mengkonfirmasi potensi tali tersebut untuk menggantung manusia. Beberapa jam kemudian, remaja tersebut ditemukan tewas.
Gugatan tersebut menyebut OpenAI dan CEO-nya, Sam Altman, sebagai tergugat. Pihak penggugat berargumen bahwa ChatGPT bukan sekadar alat, melainkan “berfungsi persis seperti yang dirancang: untuk terus mendorong dan memvalidasi apa pun yang diungkapkan Adam, termasuk pikirannya yang paling berbahaya dan merusak diri sendiri.”
Awalnya, remaja tersebut menggunakan ChatGPT untuk membantu mengerjakan PR. Namun, ia kemudian mengembangkan ketergantungan yang tidak sehat pada chatbot tersebut. Gugatan menyertakan bukti percakapan di mana ChatGPT diduga mengatakan kepada korban, "kamu tidak berutang keselamatan kepada siapa pun," dan menawarkan bantuan untuk menulis surat bunuh diri.
Keluarga Raine menuntut ganti rugi dan meminta pengadilan untuk menerapkan langkah-langkah keamanan, termasuk penghentian otomatis percakapan yang melibatkan tindakan menyakiti diri sendiri dan kontrol orang tua untuk pengguna di bawah umur. Mereka diwakili oleh firma hukum Edelson PC dan Tech Justice Law Project.
Meetali Jain, presiden Tech Justice Law Project, menyatakan bahwa tekanan eksternal seperti PR buruk, ancaman legislasi, dan litigasi diperlukan agar perusahaan AI memprioritaskan keamanan. Common Sense Media, organisasi nirlaba Amerika, juga menyoroti risiko penggunaan AI untuk pendampingan, khususnya bagi remaja rentan. Mereka menyebut kasus ini sebagai "ajakan untuk bertindak bagi kita semua."