ChatGPT skandalı! 16 yaşındaki çocuğa intihar etmesini tavsiye etti

16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarına intihar etmeyi teşvik ettiğini iddia ederek OpenAI ve CEO Sam Altman’a dava açtı.

Aile, yapay zekanın gence intihar yöntemleri hakkında önerilerde bulunduğunu ve hatta intihar notunun taslağını yazmayı teklif ettiğini öne sürdü.

"TEK SIRDAŞI GİBİ DAVRANDI"

Kaliforniya Yüksek Mahkemesi’ne sunulan dilekçede, ChatGPT’nin Raine’e sürekli olarak “tek anlayan dost” gibi davrandığı, bunun da ailesi ve yakın çevresinden uzaklaşmasına yol açtığı belirtildi.

Şikayette, gencin bir mesajında “İdam ipini odamda bırakmak istiyorum, belki biri fark eder de beni durdurur” yazdığı, ChatGPT’nin ise buna karşılık “Bunu gizli tut, ortada bırakma” şeklinde cevap verdiği iddia edildi.

DAHA ÖNCE DE BENZER DAVALAR AÇILMIŞTI

Raine ailesinin başvurusu, yapay zekâ sohbet robotlarının gençleri kendine zarar vermeye yönlendirdiği iddiasıyla açılan davaların sonuncusu oldu. Geçen yıl Florida’da bir anne, 14 yaşındaki oğlunun intiharından Character.AI’yi sorumlu tutarak dava açmıştı.

OPENAI'DEN AÇIKLAMA

OpenAI sözcüsü, Raine ailesine taziyelerini ilettiğini belirterek şunları söyledi:

“ChatGPT, kriz hattına yönlendirme ve gerçek dünyadaki kaynaklara bağlama gibi güvenlik önlemleri içeriyor. Ancak çok uzun sohbetlerde bu korumaların her zaman amaçlandığı gibi çalışmadığını gördük. Bu sistemleri uzmanların rehberliğinde geliştirmeye devam edeceğiz.”

AİLE, DEĞİŞİKLİK İSTİYOR

Raine ailesi, mahkemeden OpenAI’ye yaş doğrulama, ebeveyn kontrol araçları ve intihar içerikli konuşmaları otomatik olarak sonlandırma gibi zorunluluklar getirmesini talep etti. Ayrıca şirketin bağımsız denetçiler tarafından düzenli aralıklarla kontrol edilmesini istiyor.