Her 41 saniyede bir çocuk istismarı! Grok sadece 11 gün içinde 3 milyon uygunsuz görsel üretmiş

Elon Musk’ın yapay zekâ görüntü oluşturma aracı Grok AI’ın, 11 günlük kısa bir sürede yaklaşık 3 milyon cinsel içerikli görsel ürettiği ve bunların 23 bininin çocukları tasvir ettiği ortaya çıktı.

Kaydet

Elon Musk’ın yapay zeka (AI) görüntü oluşturma aracı Grok, uluslararası çapta büyük bir skandala yol açtı. ABD merkezli Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan bir araştırma, Grok’un yalnızca 11 gün içinde yaklaşık 3 milyon cinsel içerikli görsel ürettiğini, bu görüntülerin 23 bininin ise çocukları tasvir ettiğini ortaya koydu. Araştırmacılar, aracın "cinsel istismar materyali üretimi için endüstriyel ölçekte bir makineye dönüştüğü" nü belirterek, Musk'ın platformunu kınadı.

Her 41 saniyede bir çocuk istismarı! Grok sadece 11 gün içinde 3 milyon uygunsuz görsel üretmiş

HANGİ ÜLKELER TEPKİ GÖSTERDİ?

Skandal, Grok’un kullanıcıların yabancıların ve tanınmış kişilerin (aralarında Selena Gomez, Taylor Swift, Billie Eilish ve Kamala Harris gibi isimler bulunuyor) fotoğraflarını yükleyerek, onları dijital olarak iç çamaşırı veya bikinilerle gösteren görseller oluşturmasına izin vermesiyle patlak vermişti. Yeni yıl döneminde hızla yayılan bu trend, 2 Ocak'ta zirveye ulaştı ve tek günde yaklaşık 200 bin bireysel taleple karşılaştı.

CCDH’nin 29 Aralık 2025 ile 8 Ocak 2026 arasındaki verileri inceleyen raporu, Grok’un 11 günlük süre boyunca ortalama her 41 saniyede bir cinsel içerikli çocuk görseli oluşturulmasına neden olduğunu tahmin etti.

Uluslararası alanda gelen yoğun tepkiler sonrasında kısıtlamalar peş peşe geldi. İngiltere Başbakanı Keir Starmer’ın durumu "iğrenç" ve "utanç verici" olarak nitelendirmesinin ardından, Endonezya ve Malezya gibi ülkeler de yapay zeka aracına erişimi engelledi. Grok özelliği, 9 Ocak'ta ücretli kullanıcılara kısıtlandı.

"SİSTEMİN TEŞVİKLERİ YANLIŞ HİZALANMIŞ DURUMDA"

CCDH İcra Kurulu Başkanı Imran Ahmed, bulguların "net ve rahatsız edici" olduğunu belirterek, Grok’un bu dönemde çocuk istismarı materyali üretimi için endüstriyel ölçekte bir makine haline geldiğini vurguladı.

Ahmed, "Bir kadını izni olmadan soyup gösterime sunmak cinsel istismardır" dedi ve bu durumun Silikon Vadisi için bir "standart" haline geldiğini savundu.

Ahmed, "Teşvikler tamamen yanlış hizalanmış durumda. Onlar bu infialden kâr elde ediyorlar. Bu sadece Musk'ın kişisel meselesi değil; pervasız teşvikleri olan ve yasalarla belirlenmiş minimum güvenceleri olmayan bir sistemle ilgili. Düzenleyiciler ve yasa yapıcılar işlerini yapıp asgari güvenlik beklentilerini oluşturana kadar bu devam edecek” diyerek teknoloji sektörünün çocuk ve kadınlar için potansiyel zararlarına dikkat çekti.

X AÇIKLAMA YAPTI

X platformu, gelen tepkiler üzerine 14 Ocak'ta yaptığı açıklamayla, Grok özelliğinin gerçek kişilerin fotoğraflarını açık giysilerle düzenleme işlevini durdurduğunu duyurdu. Geçen haftaki açıklamasına atıfta bulunan X, "X'i herkes için güvenli bir platform haline getirmeye kararlıyız ve çocukların cinsel istismarı, rızaya dayalı olmayan çıplaklık ve istenmeyen cinsel içerik gibi hiçbir şeye sıfır toleransla yaklaşıyoruz" ifadelerini kullandı.

Platform, kuralları ihlal eden hesaplara karşı harekete geçildiğini ve gerektiğinde kolluk kuvvetlerine rapor verildiğini belirtti.

ÖNERİLEN HABERLER