Yapay zeka ABD'de yanlışlıkla okulu kilitledi: Klarneti silah sandı

ABD’nin Florida eyaletinde bulunan Lawton Chiles Ortaokulu, yapay zeka destekli bir güvenlik sisteminin silah alarmı vermesi üzerine acil olarak kapatıldı. Otomatik kilitlenme prosedürünün devreye girdiği olayda, alarmın bir öğrencinin taşıdığı klarnetin silah olarak algılanmasından kaynaklandığı ortaya çıktı.

ABD’nin Florida eyaletinde bulunan Lawton Chiles Ortaokulu, yapay zeka destekli bir gözetim sisteminin silah alarmı vermesi üzerine geçen hafta acil olarak kapatıldı.

Okulda otomatik olarak kilitlenme prosedürü devreye sokuldu ve öğrenciler sınıflarda tutuldu.

SİLAH DİYE ALGILANAN NESNE KLARNET ÇIKTI

Yetkililerin verdiği bilgilere göre alarmın nedeni, bando öğrencisinin elinde taşıdığı bir klarnetti. Yapay zeka sistemi, müzik aletini silah olarak algıladı ve okul genelinde kırmızı kod uygulamasını başlattı.

YÖNETİM KARARA MÜDAHALE EDEMEDİ

Yerel basına yansıyan bilgilere göre, uyarı verildiği anda sistem otomatik olarak kırmızı alarmı devreye soktu. Okul yöneticilerinin yapay zekanın verdiği kararı durdurma ya da erteleme yetkisi bulunmadığı kaydedildi.

POLİS OKULA SEVK EDİLDİ

Alarm sonrası yerel polis ekipleri hızla okula yönlendirildi. Kısa süre içinde herhangi bir tehdit olmadığı tespit edildi ve kilitlenme uygulaması sona erdirildi.

Polis, Facebook üzerinden yaptığı açıklamada kırmızı kodun yalnızca önlem amaçlı uygulandığını ve öğrencilerin hiçbir zaman tehlike altında olmadığını duyurdu.

Okul müdürü Dr. Melissa Laudani, velilere gönderdiği bilgilendirme mesajında okulun çok katmanlı bir güvenlik sistemine sahip olduğunu söyledi Mesajda, bir öğrencinin koridorda müzik aletini silahı andıracak şekilde taşımasının alarmı tetiklediği ifade edildi.

ÖĞRENCİ UYARILDI, SİSTEM SORGULANMADI

Okul yönetimi, yaşanan olayda yapay zeka sistemini değil, klarneti bu şekilde taşıyan öğrenciyi sorumlu tuttu. Müdür Laudani, velilerden çocuklarıyla okulda silah varmış gibi davranmanın tehlikeleri hakkında konuşmalarını istedi.

HANGİ SİSTEM KULLANILDIĞI AÇIKLANMADI

Lawton Chiles Ortaokulu’nda kullanılan yapay zeka sisteminin hangisi olduğu açıklanmadı. Ancak uzmanlar, 17 tuşlu bir klarnet ile bir ateşli silahın ayırt edilememesinin ciddi soru işaretleri doğurduğunu belirtiyor.

BENZER OLAY BALTİMORE’DA YAŞANMIŞTI

Florida’daki olay, kısa süre önce Baltimore’da yaşanan benzer bir vakayı gündeme getirdi. Baltimore’da bir okulda yapay zeka sistemi, küçük bir cips paketini silah olarak algıladı. Olay sonrası 16 yaşındaki bir öğrenci, en az sekiz silahlı polis tarafından sert şekilde gözaltına alındı.

ŞİRKETLER SİSTEMLERİNİ SAVUNUYOR

Cips olayının arkasındaki Omniilert şirketi, sistemin amaçlandığı şekilde çalıştığını ve güvenliğe öncelik verdiğini açıkladı.

Florida’daki olayla ilişkilendirilen ZeroEyes şirketi de yanlış alarmlara rağmen sistemlerinin güvenliği artırdığını savundu.