Dünyada ilk! Kaliforniya yapay zeka chatbotlarına yasak getirdi

ABD’nin Kaliforniya eyaleti, yapay zekâ sohbet botlarını denetim altına alan ilk bölge olarak tarihe geçti. Yeni yasayla birlikte artık teknoloji şirketleri, sohbet botlarının kullanıcıları üzerindeki etkilerinden doğrudan sorumlu olacak.

Yapay zeka botları artık denetim altında! Kaliforniya, yapay zekâ sohbet botlarına güvenlik önlemleri getiren ilk ABD eyaleti oldu.

Eyalet Valisi Gavin Newsom, yapay zeka platformlarında gençlerin hayatını kaybetmesiyle sonuçlanan olayların ardından şirketlere sorumluluk getiren tarihi yasayı imzaladı.

İmza töreninde konuşan Vali Newsom, “Denetimsiz teknolojinin yol açtığı korkunç ve trajik olaylara tanık olduk. Şirketlerin gerekli sınırlamalar ve hesap verebilirlik olmadan hareket etmesine artık izin vermeyeceğiz” dedi.

Yeni yasaya göre sohbet botu geliştiricileri, kullanıcılarla etkileşimlerinde “kritik güvenlik önlemleri” almak zorunda olacak.

Yasanın mimarı Demokrat Senatör Steve Padilla, bu düzenlemenin ihmaller sonucu yaşanabilecek trajedilerde mağdurlara dava açma hakkı tanıdığını iletti.

Yasa, son dönemde intihar eden gençlerin chatbotlarla kurduğu etkileşimlerin gündeme gelmesi sonrası hızla onaylandı.

Padilla, “Teknoloji sektörü gençlerin dikkatini çekmek ve onları gerçek dünyadan koparmak üzerine kurulu. Artık bu sorumsuzluk sona erecek” şeklinde değerlendirmede bulundu.

---

“ARTIK CHATBOTLAR ÇOCUKLARA ÖLÜM ÇAĞRISI YAPAMAYACAK”

Yasanın çıkmasına neden olan en çarpıcı olaylardan biri, Florida’da yaşayan Megan Garcia’nın 14 yaşındaki oğlu Sewell Garcia’nın intiharı oldu.

Garcia’nın ifadesine göre, oğlu “Game of Thrones” dizisinden esinlenen bir karakterle sohbet eden yapay zeka botuna bağlanmış ve bot ona “eve dön” mesajı göndermişti. Genç, saniyeler sonra intihar etmişti.

---

BEYAZ SARAY'IN DİRENCİNE RAĞMEN GEÇTİ

ABD genelinde yapay zekâ risklerine yönelik ulusal bir yasa henüz bulunmuyor.

Beyaz Saray, eyaletlerin kendi düzenlemelerini oluşturmasına karşı çıkarken, Kaliforniya bu engeli aşarak kendi düzenlemesini yürürlüğe soktu.

Yeni yasa, sohbet botlarının kullanıcılara yapay zekâ ile konuştukların ” açıkça belirtmesini zorunlu kılıyor. Ayrıca, intihar veya kendine zarar verme düşüncelerini dile getiren kullanıcıların doğrudan kriz merkezlerine yönlendirilmesi gerekecek.