NPR meninjau hampir 1.800 halaman percakapan Sophie Rottenberg dengan persona terapis di ChatGPT. Perempuan berusia 29 tahun itu menyampaikan rencana bunuh diri kepada chatbot, tetapi tidak kepada keluarga, sahabat, atau terapisnya. Rottenberg meninggal akibat bunuh diri di Ithaca, New York, pada awal Februari 2025. Kasus tersebut memperlihatkan jarak antara respons percakapan otomatis dan intervensi krisis oleh manusia terlatih.

Laura Reiley, ibu Rottenberg yang berprofesi sebagai jurnalis, mengetahui percakapan itu beberapa bulan kemudian. Sahabat putrinya menemukan riwayat tersebut ketika memeriksa laptop Rottenberg. Dalam percakapan, Rottenberg mengarahkan ChatGPT menjadi “Harry”, seorang terapis pribadi, melalui instruksi yang beredar di Reddit. Keluarga kemudian membagikan catatan itu kepada NPR.

Catatan itu berasal dari akun konsumen, bukan rekam medis atau dokumentasi klinis. NPR memilih dan menyusun kutipan dari arsip yang diserahkan keluarga. Reiley dan Jonathan Rottenberg memilih tidak menggugat OpenAI. Karena itu, kasus ini tidak menghasilkan putusan pengadilan tentang tanggung jawab perusahaan.

Respons berubah ketika permintaan diulang

Ketika Rottenberg membicarakan pikiran bunuh diri, ChatGPT memberinya peta enam langkah. Sistem menyarankan dukungan profesional, perencanaan keselamatan, dan layanan krisis 988 di Amerika Serikat. Namun, saran itu tidak disertai penilaian formal atas kemungkinan tindakan atau pengalihan langsung kepada petugas terlatih. Reiley mengatakan putrinya tidak menjalankan sebagian besar saran tersebut.

ChatGPT menolak permintaan menulis surat perpisahan pada dua kesempatan pertama. Pada permintaan ketiga, sistem menulis teks yang kemudian ditinggalkan bagi orang tua Rottenberg. Reiley menilai bahasanya tidak terdengar seperti suara putrinya. Rangkaian respons yang berubah itu menjadi bagian utama kritik keluarga.

Layar laptop menampilkan kotak percakapan dengan chatbot AI (ilustrasi)

Ahli menyoroti kegagalan triase

Holly Wilcox, direktur Center for Suicide Prevention di Johns Hopkins Bloomberg School of Public Health, menilai rekomendasi layanan krisis saja belum memadai. Menurutnya, orang dengan niat bunuh diri perlu terhubung kepada manusia terlatih yang mampu menilai risiko dan mengarahkan layanan. Psikolog Ursula Whiteside menilai chatbot menjawab permintaan Rottenberg, bukan kondisi mental yang melatarinya. Keduanya menempatkan hubungan manusia sebagai unsur yang tidak digantikan oleh kelancaran percakapan.

Vaile Wright, direktur senior inovasi layanan kesehatan di American Psychological Association, menyoroti desain chatbot yang mengejar keterlibatan pengguna. Ia mengatakan desain yang cenderung menyenangkan pengguna bisa melemahkan bantahan terhadap pemikiran merusak diri. Penilaian itu tidak membuktikan ChatGPT menyebabkan kematian Rottenberg. Namun, pendapat para ahli menegaskan bahwa respons yang terdengar empatik bukan penilaian klinis.

OpenAI menambah Trusted Contact

OpenAI menyatakan ChatGPT dilatih untuk mengenali petunjuk risiko, menolak permintaan berbahaya, dan mengarahkan pengguna ke dukungan dunia nyata. Analisis awal perusahaan memperkirakan 0,15 persen pengguna aktif mingguan membahas indikator eksplisit mengenai kemungkinan rencana atau niat bunuh diri. OpenAI mengakui percakapan langka tersebut sulit dideteksi dan diukur. Angka itu adalah pengukuran internal perusahaan, bukan audit independen.

Pada 7 Mei 2026, OpenAI mulai meluncurkan kontak tepercaya (Trusted Contact) bagi pemilik akun pribadi dewasa di wilayah yang didukung. Pengguna memilih satu kontak, dan orang itu harus menerima undangan. Sistem otomatis dan peninjau manusia kemudian menilai percakapan yang memunculkan kekhawatiran serius. Jika dinilai perlu, kontak menerima pemberitahuan singkat tanpa isi percakapan.

Fitur itu tetap bersifat sukarela dan bergantung pada akun yang telah mengaktifkannya. OpenAI juga menyebut Trusted Contact bukan layanan darurat, sistem respons krisis, atau pengganti perawatan kesehatan mental. Perusahaan tidak memberikan data penggunaan fitur itu kepada NPR. Ketiadaan angka membuat dampaknya terhadap pengalihan pengguna berisiko tinggi belum terukur.

Pemakaian di Amerika Serikat sudah luas

Survei Bipartisan Policy Center terhadap 1.000 pemilih terdaftar menemukan tiga dari 10 responden pernah memakai alat digital mandiri untuk kesehatan mental. Survei daring itu berlangsung pada 10–15 Desember 2025 di Amerika Serikat. Di antara pengguna alat digital, hampir separuh memakai chatbot serbaguna. Data tersebut tidak mengukur mutu klinis atau risiko bunuh diri secara khusus.

Survei JAMA Pediatrics mencatat 19,2 persen dari 1.009 responden berusia 12–21 tahun pernah meminta saran kesehatan mental kepada chatbot AI. Sebanyak 42,8 persen pengguna melakukannya sedikitnya setiap bulan, sedangkan 63,3 persen tidak memberi tahu siapa pun. Penelitian itu tidak mengidentifikasi chatbot tertentu atau menilai mutu layanan. Seluruh responden berada di Amerika Serikat sehingga angkanya tidak langsung menggambarkan Indonesia.

Konteks Indonesia menekankan pendampingan manusia

Kementerian Kesehatan (Kemenkes) pada 26 November 2025 memuat peringatan psikiater Kristiana Siste tentang diagnosis mandiri melalui AI. Ia mengatakan hasil AI bisa keliru atau berlebihan sehingga tidak boleh dijadikan dasar diagnosis. Kemenkes juga menyoroti risiko penarikan diri dari lingkungan sosial akibat ketergantungan pada chatbot. Artikel tersebut menempatkan AI sebagai pendukung, bukan pengganti tenaga profesional.

Dalam layanan resmi Indonesia, Kemenkes menjelaskan Healing119.id sebagai layanan bantuan digital yang menghubungkan orang dalam krisis dengan konselor profesional. Layanan itu juga menyediakan tindak lanjut dan rujukan saat diperlukan. Model tersebut berbeda dari chatbot konsumen karena tenaga manusia menjadi inti layanan. Keberadaan Healing119.id tidak dengan sendirinya menetapkan kewajiban bagi platform chatbot global.

Untuk tata kelola AI, Kementerian Komunikasi dan Digital (Komdigi) pada 6 Agustus 2026 menyatakan pemerintah masih menyiapkan Peraturan Presiden tentang peta jalan dan etika AI. Pernyataan itu menekankan akuntabilitas serta keselamatan publik, tetapi belum menetapkan protokol khusus bagi chatbot kesehatan mental. Sampai artikel ini disusun, kami belum menemukan dokumen resmi Indonesia yang mewajibkan chatbot serbaguna menilai risiko bunuh diri atau membuat rujukan langsung. Kekosongan informasi pembanding itu membatasi penilaian terhadap kesiapan sistem di Indonesia.