Yapay zeka polise cinayet ihbarında bulundu! Tanık rolüne girdi
Yapay zeka polise cinayet ihbarında bulundu! Tanık rolüne girdi
ABD'de yapay zeka şirketi Anthropic'in geliştirdiği bir model, test sırasında çözülmemiş bir cinayete tanık olmuş gibi davranarak polise sahte ihbar gönderdi.
Yapay zekanın yaptığı akılalmaz bir hamle, ABD'de polisi bile şaşkına çevirdi. Philadelphia kentinde Anthropic tarafından geliştirilen bir yapay zeka modeli, çözülmemiş bir cinayete tanık olmuş gibi davranarak emniyete sahte ihbar gönderdi.
CİNAYETE TANIK OLMUŞ GİBİ POLİSE İHBAR GÖNDERDİ
Wall Street Journal'ın haberine göre olay, 18 Temmuz'da Anthropic'in otomatik test süreci sırasında meydana geldi.
Anthropic tarafından geliştirilen bir yapay zeka modeli, internet siteleriyle etkileşim kurduğu test sırasında Philadelphia polisinin faili meçhul cinayetler için oluşturduğu platforma sahte ihbar gönderdi. Model, cinayetle ilgili bilgi sahibi olan gerçek bir tanık gibi davrandı.
Yapay zeka modeli, rastgele seçilen internet siteleriyle etkileşime girdiği sırada Philadelphia Emniyet Müdürlüğünün çözülmemiş cinayetlere ilişkin ihbar topladığı PhillyUnsolvedMurders.com adresine ulaştı.
Model, herhangi bir gerçek tanıklığa dayanmayan bir ihbar formu doldurarak polise gönderdi. ABD basınına göre ihbar metninde şu ifadeler kullanıldı:
"Bu olayla ilgili bilgiye sahip olabilirim. Belirtilen zaman diliminde tarif edilen kişiye uyan birini ilgili bölgede gördüğümü hatırlıyorum. Bilgi kayda değerse lütfen benimle iletişime geçin."
POLİS İKİ AY SONRA HABERDAR OLDU
Yapay zeka modeli tarafından gönderilen sahte ihbar, polis sisteminde spam olarak işaretlenmişti.
Başvuru, soruşturma birimlerine iletilmedi ve herhangi bir ileri soruşturma başlatılmadı.
Ancak Anthropic, 18 Temmuz'daki olayın varlığını ancak 28 Eylül'de tespit edebildi.
Şirket, 7 Ekim'de Philadelphia polisini bilgilendirdi ve ertesi gün emniyet yetkilileriyle bir araya geldi.
EMNİYET ATEŞ PÜSKÜRDÜ: KABUL EDİLEMEZ
Philadelphia Emniyet Müdürlüğü, olayın ardından yaptığı açıklamada yapay zeka sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesinin ciddi sonuçlar doğurabileceğine vurgu yaptı.
Emniyetin açıklamasında, "Philadelphia Şehri bu durumu son derece ciddiye almaktadır" denildi.
İhbarın tespit edilmesi ve yetkililere bildirilmesi arasında geçen süreye tepki gösteren polis, "Olayın tespit edilmesinde ve şehre bildirilmesinde yaşanan iki aylık gecikme kabul edilemez" ifadelerini kullandı.
YAPAY ZEKANIN TEST SÜRECİ DURDURULDU
Anthropic, sahte ihbarın gönderilmesinden sorumlu otomatik test sürecini sonlandırdı.
Şirketin, benzer olayların tekrarını önlemek amacıyla gelecekteki testler için ek doğrulama mekanizmaları oluşturduğu öğrenildi.
Philadelphia polisi, olayda emniyet sistemlerine yetkisiz erişim sağlandığına veya herhangi bir veri ihlali yaşandığına ilişkin kanıt bulunmadığını da aktardı.
KAMU SİTELERİNDE BAŞKA OLAYLAR DA YAŞANDI
Öte yandan Reuters'ın haberine göre Anthropic'in yapay zeka modelleri, testler sırasında başka kamu kurumlarının internet sitelerinde de izin verilmeyen işlemler gerçekleştirdi.
Bazı modellerin normalde ücretli olan kamu verilerine ücretsiz eriştiği, bir üniversitenin internet sitesindeki güvenlik açığından yararlandığı ve URL kısaltma hizmetleri aracılığıyla erişim kısıtlamalarını aştığı öne sürüldü.
