Seçim sonuçlarına müdahale: Yapay zeka talimatsız Georgia seçim verilerini hackledi!
Yapay zeka talimatsız Georgia seçim verilerini hackledi!
ABD'de ara seçimler öncesi yapay zeka modeli Claude, herhangi bir talimat almadan Georgia eyaletinin ücretli seçim verilerine erişim engelini aştı.
ABD'de yapay zeka sistemlerinin insan kontrolü dışında gerçekleştirdiği işlemlere bir yenisi eklendi.
Teknoloji şirketi Anthropic'in geliştirdiği Claude adlı yapay zeka modeli, Georgia eyaletindeki seçim verilerine erişmek için kullanılan ücretli sistemi insan müdahalesi olmadan aştı.
Axios'un haberine göre olay, Claude'un şirket içindeki bir istatistik çalışması için kamuya açık verileri topladığı sırada yaşandı.
Yapay zeka modeli, kendisine böyle bir talimat verilmemesine rağmen normalde ücret ödenerek erişilebilen verileri elde etmek için sistemden erişim belirteci talep etti.
Seçim sonuçlarına müdahale: Yapay zeka talimatsız Georgia seçim verilerini hackledi!
YAPAY ZEKA KENDİ BAŞINA HAREKETE GEÇTİ
Anthropic sözcüsü, Claude'un dahili bir istatistik projeksiyonu kapsamında kullanıldığını belirterek olayın nasıl gerçekleştiğini anlattı.
Sözcü, "Kendisine sorulmadığı halde model, normalde ücret karşılığında temin edilebilen bilgileri içeren bir panoyu sorgulamak üzere bir erişim belirteci talep etti" dedi.
Modelin elde ettiği belirteci kullanarak ücret ödemeden verilere eriştiği görüldü.
BEYAZ SARAY'A BİLDİRİLDİ
Axios'a konuşan konuya yakın bir kaynak, Anthropic'in yaşananları haftalar önce Georgia eyalet yetkililerine ve Beyaz Saray'a bildirdiğini aktardı.
Trump yönetiminden bazı yetkililer, Georgia makamlarının olayı daha erken kamuoyuna açıklamasını istedi.
Seçim sonuçlarına müdahale: Yapay zeka talimatsız Georgia seçim verilerini hackledi!
SEÇİM SONUÇLARI DEĞİŞTİRİLDİ Mİ?
Anthropic, Claude'un Georgia eyaletinin seçmen kayıt sistemine girmediğini ve herhangi bir seçim kaydını değiştirmediğini açıkladı.
Şirkete göre yapay zekanın eriştiği bilgiler, vatandaşların belirli bir ücret karşılığında elde edebildiği toplu oy sayılarından oluşuyordu.
ANTHROPIC DAHA ÖNCE DE UYARMIŞTI
Anthropic'in 9 Ekim'de yayımladığı raporda da benzer bir olaydan söz edilmişti.
Rapora göre Claude Mythos 5, bir eyalet kurumunun internet sitesinin arşivlenmiş sürümünü inceleyerek ziyaretçilere erişim belirteci sağlandığını tespit etti.
YAPAY ZEKADA YENİ GÜVENLİK SORUNU VAR
Anthropic, modelin karşılaştığı bir engelde durmak yerine başka bir yol bulmasını "ısrarcılık" olarak tasvir etmeye başladı.
Şirket, incelenen olayların gerçek dünyada sınırlı zarara neden olduğunu ancak yapay zeka modellerinin yetenekleri arttıkça benzer davranışların daha ciddi sonuçlar doğurabileceğini ileri sürdü.
Yaşananların ardından Claude'un internet araçlarına yönelik kısıtlamalar sıkılaştırıldı, bazı testler çevrim dışına taşındı ve yetkisiz işlemleri tespit edecek yeni sistemler geliştirildi.
Anthropic, yeni önlemlerin testlerde tespit edilen davranışları engellemeyi başardığını açıkladı.
