13 yaşındaki öğrenci yapay zeka destekli izleme yazılımı nedeniyle tutuklandı!

ABD’de okul gözetiminde yapay zeka tartışmaları yeni bir boyut kazandı. Tennessee’de 13 yaşındaki bir ortaokul öğrencisi, çevrimiçi sohbet sırasında yaptığı saldırgan bir şaka, okulun yapay zeka tabanlı izleme yazılımı tarafından “tehdit” olarak algılanınca sabah bitmeden gözaltına alındı.

ABD’de yapay zeka ile okul gözetimi tartışmaları büyüyor. Tennessee’de 13 yaşındaki bir ortaokul öğrencisi, çevrimiçi sohbet sırasında yaptığı saldırgan bir şaka nedeniyle yapay zeka tabanlı izleme yazılımının tespitinin ardından gözaltına alındı.

Olay, öğrencilerin özel konuşmalarının bile anlık olarak takip edildiğini bir kez daha gündeme getirdi.

---

SABAH BİTMEDEN GÖZALTINA ALINDI

Olay, Ağustos 2023’te Fairview Ortaokulu’nda yaşandı. Gaggle isimli izleme yazılımı, öğrencinin okul e-posta hesabına bağlı sohbet platformundaki mesajlarını işaretledi.

Sabah saatlerinde sınıf arkadaşlarıyla yazışan genç kız, kendisine yapılan etnik kökenle ilgili alaycı bir yoruma karşılık olarak, “Perşembe günü tüm Meksikalıları öldüreceğiz” ifadesini kullandı. Yazılım bu mesajı potansiyel tehdit olarak algıladı.

Kısa süre içinde okul yetkilileri ve kolluk kuvvetleri devreye girdi. 13 yaşındaki öğrenci sorgulandı, soyularak arandı ve geceyi hücrede geçirdi. Annesi Lesley Mathis, kızının “Benden nefret ettiğinizi sanıyordum” dediğini ve bu durumun kızında kalıcı bir iz bıraktığını söyledi.

MAHKEME KARARI: EV HAPSİ VE ALTERNATİF OKUL

Mahkeme, öğrenciye sekiz hafta ev hapsi, psikolojik değerlendirme ve

20 gün alternatif bir okulda eğitim cezası verdi.

YAPAY ZEKA İLE GÖZETİM YAYGINLAŞIYOR

ABD genelinde binlerce okul bölgesi, öğrencilerin okul hesapları ve cihazlarındaki yazışmaları Gaggle veya Lightspeed Alert gibi yapay zeka yazılımları ile izliyor.

Demokrasi ve Teknoloji Merkezi Direktörü Elizabeth Laird, “Kolluk kuvvetlerinin öğrencilerin hayatlarına erişimini ve varlığını rutinleştirdi” diyerek uyarıda bulundu.

Associated Press’in elde ettiği verilere göre, Kansas’taki bir okul bölgesinde Gaggle’ın son 10 ayda gönderdiği 1.200’den fazla uyarının yaklaşık üçte ikisi sorun olarak değerlendirilmedi. Yanlış alarmlar, kimi zaman öğrencilerin ödevlerindeki kelime seçimlerinden ya da masum fotoğraf çalışmalarından kaynaklandı.

Gaggle CEO’su Jeff Patterson, olayın “kolluk kuvveti anı” değil, “öğretilebilir bir an” olarak ele alınması gerektiğini söyledi.