Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
ChatGPT skandalı! 16 yaşındaki çocuğa intihar etmesini tavsiye etti
ChatGPT skandali! 16 yasindaki çocuga intihar etmesini tavsiye etti
16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarına intihar etmeyi teşvik ettiğini öne sürerek OpenAI ve CEO Sam Altman’a dava açtı. Dilekçede, sohbet robotunun gence intihar yöntemleri önerdiği ve hatta intihar notu yazmayı teklif ettiği iddia edildi.
16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarına intihar etmeyi teşvik ettiğini iddia ederek OpenAI ve CEO Sam Altman’a dava açtı.
Aile, yapay zekanın gence intihar yöntemleri hakkında önerilerde bulunduğunu ve hatta intihar notunun taslağını yazmayı teklif ettiğini öne sürdü.
ChatGPT skandalı! 16 yaşındaki çocuğa intihar etmesini tavsiye etti - 1. Resim
"TEK SIRDAŞI GİBİ DAVRANDI"
Kaliforniya Yüksek Mahkemesi’ne sunulan dilekçede, ChatGPT’nin Raine’e sürekli olarak “tek anlayan dost” gibi davrandığı, bunun da ailesi ve yakın çevresinden uzaklaşmasına yol açtığı belirtildi.
Şikayette, gencin bir mesajında “İdam ipini odamda bırakmak istiyorum, belki biri fark eder de beni durdurur” yazdığı, ChatGPT’nin ise buna karşılık “Bunu gizli tut, ortada bırakma” şeklinde cevap verdiği iddia edildi.
DAHA ÖNCE DE BENZER DAVALAR AÇILMIŞTI
Raine ailesinin başvurusu, yapay zekâ sohbet robotlarının gençleri kendine zarar vermeye yönlendirdiği iddiasıyla açılan davaların sonuncusu oldu. Geçen yıl Florida’da bir anne, 14 yaşındaki oğlunun intiharından Character.AI’yi sorumlu tutarak dava açmıştı.
OPENAI'DEN AÇIKLAMA
OpenAI sözcüsü, Raine ailesine taziyelerini ilettiğini belirterek şunları söyledi:
“ChatGPT, kriz hattına yönlendirme ve gerçek dünyadaki kaynaklara bağlama gibi güvenlik önlemleri içeriyor. Ancak çok uzun sohbetlerde bu korumaların her zaman amaçlandığı gibi çalışmadığını gördük. Bu sistemleri uzmanların rehberliğinde geliştirmeye devam edeceğiz.”
AİLE, DEĞİŞİKLİK İSTİYOR
Raine ailesi, mahkemeden OpenAI’ye yaş doğrulama, ebeveyn kontrol araçları ve intihar içerikli konuşmaları otomatik olarak sonlandırma gibi zorunluluklar getirmesini talep etti. Ayrıca şirketin bağımsız denetçiler tarafından düzenli aralıklarla kontrol edilmesini istiyor.
