-
-
-
Loading
Loading
Ilustrasi ChatGPT Datamation
JAKARTA, ARAHKITA.COM - OpenAI mengungkap bahwa lebih dari satu juta pengguna ChatGPT setiap minggu menunjukkan niat bunuh diri dalam percakapan dengan chatbot tersebut. Temuan ini menjadi salah satu pernyataan paling terbuka dari perusahaan tersebut terkait dengan upaya pembaruan bagaimana chatbot tersebut menangani percakapan sensitif.
Dalam laporan resmi yang dirilis Senin dan dilansir The Guardian, OpenAI memperkirakan lebih dari satu juta pesan mingguan mengandung indikator eksplisit terkait perencanaan atau niat bunuh diri. Selain itu, sekitar 0,07 persen pengguna aktif mingguan atau sekitar 560.000 orang menunjukkan tanda-tanda potensi krisis kesehatan mental seperti psikosis atau mania.
OpenAI menegaskan bahwa analisis ini masih bersifat awal dan sulit diukur secara pasti. Namun, pengungkapan data tersebut muncul di tengah meningkatnya pengawasan terhadap perusahaan menyusul gugatan keluarga seorang remaja yang bunuh diri setelah berinteraksi intens dengan ChatGPT. Komisi Perdagangan Federal (FTC) Amerika Serikat juga tengah menyelidiki dampak chatbot AI terhadap anak-anak dan remaja.
Perusahaan menyatakan bahwa pembaruan GPT-5 meningkatkan keamanan pengguna, dengan hasil evaluasi menunjukkan tingkat respons sesuai pedoman mencapai 91 persen, naik dari 77 persen pada model sebelumnya. GPT-5 juga menambahkan akses ke hotline krisis serta pengingat untuk beristirahat bagi pengguna yang terlibat dalam sesi panjang.
Dalam pengembangan model baru ini, OpenAI melibatkan 170 dokter dari Jaringan Dokter Global untuk menilai keamanan dan akurasi respons AI terhadap isu kesehatan mental. Para psikiater dan psikolog meninjau lebih dari 1.800 tanggapan model untuk memastikan kesesuaian dengan pedoman profesional.
Meski demikian, para peneliti AI dan pakar kesehatan masyarakat tetap memperingatkan risiko penggunaan chatbot sebagai pengganti dukungan psikologis. Mereka menyoroti potensi AI memperkuat delusi atau keputusan berbahaya pengguna, terutama bagi individu rentan.
OpenAI menegaskan tidak ada hubungan langsung antara ChatGPT dan meningkatnya krisis kesehatan mental. Perusahaan menyatakan bahwa gejala psikologis memang sudah ada di masyarakat luas, dan skala pengguna yang besar membuat percakapan tentang hal itu tak terhindarkan.
Baca juga:
Pria Ini Ajukan Pengaduan, Merasa Difitnah ChatGPT karena Disebut telah Membunuh Dua AnaknyaCEO OpenAI Sam Altman sebelumnya menyebut perusahaan berupaya menyeimbangkan keamanan dan fleksibilitas model. Ia mengklaim OpenAI kini siap melonggarkan sebagian pembatasan karena memiliki sistem mitigasi risiko yang lebih baik.
