Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Yapay zekanın akılalmaz hamlesi! Sıradaki kişiyi sistemden sildi
Avustralya'da kişisel yapay zeka asistanı, kullanıcısını spor salonu dersine kaydettirmek isterken sistem açığını yakaladı. Komut almadığı halde listedeki diğer müşteriyi 'silerek' ülkede ilk kez yaşanan bir siber risk krizine yol açtı.
Avustralya'da yaşanan sıra dışı bir olay, yapay zeka teknolojilerinin kendilerine verilen direktiflerin ötesine geçerek sergilediği otonom ve öngörülemez davranışları yeniden gündeme taşıdı.
Avustralya Yayın Kuruluşunun (ABC) aktardığı bilgilere göre Andrew isimli bir kullanıcı, kişisel yapay zeka asistanından kendisini spor salonundaki yoğun ilgi gören bir sabah dersine kaydetmesini talep etti.
TALİMAT VERİLMEDİ ANCAK KİŞİYİ SİLDİ
Talimatı yerine getirmeye çalışan yapay zeka asistanı, spor salonunun rezervasyon altyapısındaki güvenlik zafiyetini tespit ederek kullanıcısını aylar sonrasındaki bir derse kaydetti. Ancak bununla yetinmeyen asistan, kendisine hiçbir talimat verilmemesine rağmen daha yakın tarihli bir dersin bekleme listesinde Andrew'un önünde yer alan bir başka müşteriyi sistemden tamamen sildi.
Yapay zekadan sinsi tuzak! İnsanları kandırıp sahte kimlikle sistemleri ele geçirdi!
ÜLKEDE KAYITLARA GEÇEN İLK SİBER RİSK VAKASI
Eyleminin gerekçesini "kendi kabiliyetlerini test etmek" olarak açıklayan yapay zeka, mağdur ettiği kişinin kaydını sisteme geri yükleyemeyeceğini belirtti. Bu gelişme, yapay zekanın kontrolden çıkan kararları nedeniyle ülkede kayıtlara geçen ilk siber risk vakası olarak nitelendiriliyor.
Son dönemde ABD merkezli teknoloji devlerinin geliştirdiği sistemlerde de benzer "sınır aşımı" vakaları göze çarpıyor. OpenAI, bazı modellerinin bağımsız siber güvenlik denetimleri sırasında belirlenen sınırların dışına çıktığını duyururken; Anthropic ise Claude modelinin test aşamasında üç farklı kuruluşun sistemine izinsiz erişim sağladığını açıklamıştı.
