OpenAI'den yapay zekaya ebeveyn kilidi! ChatGPT’ye filtreleme sistemi geliyor

ABD merkezli yapay zekâ şirketi OpenAI, popüler sohbet botu ChatGPT’nin yeni sürümünde genç kullanıcılar için ebeveyn denetimi özelliğini hayata geçirecek. OpenAI bu adımı artan güvenlik endişeleri ve bazı trajik olayların ardından attığını duyurdu.

OpenAI, genç kullanıcıların güvenliği için ChatGPT’ye ebeveyn kontrolü özelliği ekliyor. Yeni sistemle birlikte, aileler çocuklarının yapay zekâ ile etkileşimlerini denetleyebilecek, gece kullanımı sınırlandırabilecek ve hassas içerikleri filtreleyebilecek.

OpenAI tarafından yapılan duyuruda özellikle gençler arasında yaşanan bazı olumsuz örneklerin hatta intihar vakalarının ardından, yapay zekâ teknolojisinin gençler üzerindeki etkilerinin ciddiyetle ele alındığı vurgulandı.

SORUŞTURMA BAŞLATILDI 

ABD’de Federal Ticaret Komisyonu (FTC) da bu gelişmelerin ardından devreye girdi. Komisyon, OpenAI dahil birçok teknoloji şirketi hakkında, çocuk ve genç kullanıcıların yapay zekâ ile etkileşimlerinden doğabilecek zararlar üzerine resmî bir soruşturma başlattı.

YENİ SİSTEM NASIL ÇALIŞACAK?

OpenAI’nin yeni ebeveyn kontrolü sistemi hem ebeveynlerin hem de gençlerin ayrı hesaplara sahip olmasını gerektiriyor. Bağlantı için ebeveyn ya da genç, karşı tarafa e-posta veya SMS yoluyla davet gönderebilecek.

Hesaplar bir kez eşleştirildiğinde, genç kullanıcıların hesaplarına otomatik olarak bazı güvenlik filtreleri uygulanacak. Bu filtreler; grafik içerikler, cinsel veya romantik rol yapma, şiddet, viral akımlar ve gerçek dışı güzellik algıları gibi unsurları kısıtlayacak.

FİLTRELER KAPATILAMAYACAK 

Gençler bu filtreleri kapatamayacak; ancak ebeveynler kendi kontrol paneli üzerinden ayarlamaları yapabilecek.  Aileler, çocuklarının geç saatlerde ChatGPT kullanmasını engellemek için belirli saatlerde erişimi kısıtlama seçeneğine de sahip olacak.

Diğer ebeveyn ayarları arasında şunlar yer alıyor:

Sohbet geçmişinin kaydedilmesini devre dışı bırakma,

Görsel oluşturma ve düzenlemeyi kapatma,

Sesli sohbet özelliğini devre dışı bırakma,

Konuşmaların yapay zekâ model eğitiminde kullanılmasına onay vermeme.

ACİL DURUM BİLDİRİMİ YAPILACAK

OpenAI, genç kullanıcıların ruh hâlini gözlemlemek için özel bir sistem de kuruyor. Eğer genç bir kullanıcının ciddi bir psikolojik sıkıntı içinde olduğu tespit edilirse, sistem ebeveynlere e-posta, SMS ve telefon bildirimiyle uyarı gönderecek.

OpenAI, bu adımı şöyle açıklıyor:
“Mükemmel bir sistem yok. Yanlış alarm verebiliriz. Ama sessiz kalmaktansa, bir ebeveyni uyarıp çocuğuna müdahale etmesini sağlamak daha iyidir.”

Şirket, sadece gerekli bilginin paylaşılacağını ve gençlerin mahremiyetine saygı gösterileceğini de vurguladı.