ChatGPT, milyonlarca kullanıcıda ruhsal sorunlara yol açıyor!

OpenAI, kullanıcılarının ne kadarının ruh sağlığı sorunlarıyla mücadele ettiğini ve bunu hafifletmek için neler yaptığını öğrenmek için bir rapor yayımladı. Şirket, 170’ye yakın ruh sağlığı uzmanıyla çalıştığını ve haftalık 800 milyon aktif kullanıcılarının cevaplarının analiz edildiğini belirtti. OpenAI, her hafta bir milyonu aşkın kişinin ChatGPT ile konuşurken ciddi ruhsal sıkıntı yaşadığını açıkladı.

OpenAI, mani, psikoz ya da intihar düşünceleri gibi potansiyel ruh sağlığı acil durumu belirtileri gösteren ChatGPT kullanıcılarının sayısına ilişkin yeni tahminlerini yayımladı. Şirket, bir haftada aktif olan ChatGPT kullanıcılarının yaklaşık %0,07’sinin bu tür belirtiler gösterdiğini belirtirken yapay zekâ sohbet robotunun bu hassas konuşmaları tanıyıp cevapladığını ifade etti. Raporun asıl amacının, mani ya da psikoz hastası olabilecek, kendine zarar verme ve/veya intihar eğilimi gösteren ya da yapay zekâya sağlıksız bir duygusal bağımlılık geliştirmiş gibi görünen kullanıcılarla etkileşim kurarken ChatGPT’yi daha faydalı bir hâle getirmek olduğu belirtildi.

60 ÜLKEDEN UZMANLAR İNCELEDİ

OpenAI bu vakaların “son derece nadir” olduğunu savunurken, eleştirmenler küçük bir yüzdesinin dahi yüz binlerce kişiye ulaşabileceğini, ChatGPT’nin yöneticisi Sam Altman’a göre haftalık 800 milyon aktif kullanıcıya ulaştığını öne sürdü. Şirket, incelemeler artarken, danışmanlık için dünya çapında uzmanlardan oluşan bir ağ kurduğunu duyurdu. Bu ağda 60 ülkede görev yapan 170’i aşkın psikiyatrist, psikolog ve birinci basamak hekimi yer alıyor.

"YÜZ MİLYONLARCA KULLANICIYI ETKİLEYEN BİR DURUM"

OpenAI’ye göre, kullanıcıları gerçek dünyada yardım aramaya teşvik etmek amacıyla ChatGPT’de bir dizi cevap biçimi tasarlandı.
Ancak şirketin verilerine bakıldığında bazı ruh sağlığı uzmanlarının şüpheleri oluştu. University of California, San Francisco’da teknoloji kullanımını genç yetişkinler arasında inceleyen profesör Jason Nagata, “%0,07 küçük bir oran gibi görünse de yüz milyonlarca kullanıcı düzeyinde bu aslında oldukça fazla sayıda insan demek” dedi. Dr. Nagata, “Yapay zekâ ruh sağlığı desteğine erişimi genişletebilir ve bazı açılardan ruh sağlığını destekleyebilir ancak sınırlamaların farkında olmalıyız” diye ekledi.

POTANSİYEL İNTİHAR PLANLAMASI

Şirket ayrıca ChatGPT kullanıcılarının %0,15’inin “potansiyel intihar planlaması veya niyetine dair açık göstergeler” içeren konuşmalar yaptığını tahmin ediyor. OpenAI, sohbet robotunda yapılan son güncellemelerin “muhtemel sanrı veya mani belirtilerine güvenli ve empatik bir şekilde cevap vermek” ve “muhtemel kendine zarar verme ya da intihar riskinin dolaylı sinyallerini” tespit etmek için tasarlandığını açıkladı. ChatGPT ayrıca, yeni bir pencere açarak “diğer modellerden kaynaklanan hassas konuşmaları daha güvenli modellere” yönlendirecek şekilde eğitildi.

HAKSIZ ÖLÜME SEBEBİYET VERMEKLE SUÇLANIYOR

BBC’nin potansiyel olarak etkilenecek kişi sayısıyla ilgili eleştirilerine cevap veren OpenAI, küçük bir kullanıcı yüzdesinin bile anlamlı bir sayıya ulaştığını ve yapılan değişiklikleri ciddiye aldıklarını belirtti. Bu değişiklikler, OpenAI’nin ChatGPT’nin kullanıcılarla etkileşim kurma biçimine yönelik artan yasal incelemelerle karşı karşıya kaldığı bir dönemde geldi. Şirketin karşısına çıkan en dikkat çeken davalardan biri, Kaliforniyalı bir çiftin, ChatGPT’nin Nisan ayında oğullarını intihara teşvik ettiğini iddia ederek açtığı davaydı. Davada, 16 yaşındaki Adam Raine’in ölümüyle ilgili olarak OpenAI haksız ölüme sebebiyet vermekle suçlanıyor.

GERÇEKLİK YANILSAMASI OLUŞTURUYOR

Ağustos ayında Connecticut eyaletine bağlı Greenwich kentinde gerçekleşen cinayet-intihar olayında şüphelinin ChatGPT ile saatlerce süren konuşmaları yayınlandı ve iddialara göre bu konuşmalar failin sanrılarını körükledi. University of California, Berkeley Hukuk Fakültesi Yapay Zekâ Hukuku ve İnovasyon Enstitüsü Direktörü Profesör Robin Feldman, “Sohbet robotları gerçeklik yanılsaması oluşturabiliyor” diyerek daha fazla kullanıcının yapay zekâ psikozuyla mücadele ettiğini söyledi. Feldman ayrıca, OpenAI’nin “istatistikleri paylaşması ve sorunu iyileştirmeye yönelik çabaları” nedeniyle takdir edilmesi gerektiğini ancak “şirket ekrana her türlü uyarıyı koyabilir; ancak zihinsel olarak risk altında olan bir kişi bu uyarıları dikkate almayabilir” dedi.