Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Dünyayı alarma geçiren olay! OpenAI ajanı hükümet sistemine izinsiz girdi
Dünyayı alarma geçiren olay! OpenAI ajanı hükümet sistemine izinsiz girdi
Yapay zekanın kontrolden çıkabileceğine ilişkin tartışmaları alevlendirecek bir olay Avustralya'da yaşandı. OpenAI'ın eğitim sırasında kullandığı bir yapay zeka ajanı, hükümete ait sağlık sisteminde erişimin reddedilmesinin ardından güvenlik engellerini aşarak kamuya açık olmayan dosyaların bulunduğu bölüme ulaştı. Avustralya Başbakanı Anthony Albanese, olayın bildirilmesinin aylar sürmesine de tepki göstererek OpenAI CEO'su Sam Altman'la görüştüğünü ve yaşananların "kesinlikle kabul edilemez" olduğunu açıkladı.
Yapay zeka sistemlerinin siber güvenlik açısından oluşturabileceği riskler bu kez doğrudan bir hükümet sisteminde yaşanan olayla gündeme geldi.
Avustralya Başbakanı Anthony Albanese, OpenAI tarafından yürütülen bir eğitim çalışması sırasında yapay zeka ajanının haziran ayında hükümete ait Medicare Statistics Reporting Service portalına izinsiz erişim sağladığını duyurdu.
OpenAI ajanının kendisine getirilen erişim kısıtlamasında durmadığı, güvenlik bariyerlerini aşarak kamuya açık olmayan dosyaların bulunduğu alana ulaştığı görüldü. Olayı “kesinlikle kabul edilemez” olarak nitelendiren Albanese, OpenAI CEO'su Sam Altman'la yüz yüze görüştü.
Dünyayı alarma geçiren olay! OpenAI ajanı hükümet sistemine izinsiz girdi
"REDDEDİLİNCE DURMADI"
Avustralya hükümetinin aktardığı bilgilere göre olay 18 Haziran'da, OpenAI'ın modellerinin performansını ölçmek amacıyla gerçekleştirdiği çalışmalar sırasında meydana geldi.
Yapay zeka ajanına Avustralya hükümetinin ilaç harcamalarına ilişkin verileri bulma görevi verildi. Ancak sistem, erişimine izin verilmeyen noktaya ulaştığında işlemi sonlandırmak yerine güvenlik kısıtlamalarını aşarak hükümete ait sistemde kamuya açık olmayan dosyalara erişti.
Avustralya Savunma Bakanı Richard Marles yaşananları dikkat çeken bir benzetmeyle anlattı:
“Bir soru sordu, bilgi verilmedi ve o noktada bırakmak yerine çiti aştı.”
