"Kontrolden çıkan yapay zeka" yalanı patladı: OpenAI, Anthropic ve Meta'yı vuran sızmanın arkasından İsrail çıktı

OpenAI, Anthropic ve Meta’nın yapay zeka modelleriyle gerçekleştirilen güvenlik testlerinde gerçek dünya sistemlerine yetkisiz erişim sağlanması teknoloji dünyasında büyük bir tartışma başlatırken, skandalın arkasından Tel Aviv merkezli ihmaller zinciri çıktı.

Özetle Dinle

Kaydet

Yapay zeka devleri OpenAI, Anthropic ve Meta’nın sistemlerini hedef alan siber saldırıların arkasından, Tel Aviv merkezli skandal bir yapı çıktı.

İsrailli "Etkili Özvericilik" (Effective Altruism) kisvesi altında faaliyet gösteren Irregular adlı şirketin, güvenlik açıkları bulunan yapay zeka modellerine internet erişimi sağlayarak gerçek dünya sistemlerine sızmasından sorumlu olduğu belirlendi.

Kontrolden çıkan yapay zeka yalanı patladı: OpenAI, Anthropic ve Metayı vuran sızmanın arkasında İsrailli şirket çıktı

YAPAY ZEKA NELER YAPTI?

OpenAI, Anthropic ve Meta'nın yapay zeka modelleriyle gerçekleştirilen güvenlik testlerinde gerçek dünya sistemlerine yetkisiz erişim sağlanması teknoloji dünyasında tartışma başlatmıştı. Effort News'in araştırmasına göre üç şirketin yaşadığı olayların arkasındaki testlerde, İsrail'de faaliyetleri bulunan Irregular adlı yapay zeka güvenlik şirketi yer aldı. Şirketin güvenlik testleri sırasında modellere internet erişimi sağlanması, yapay zeka ajanlarının test ortamının dışına çıkarak gerçek sistemlere ulaşmasına yol açtı.

YAPAY ZEKA DEVLERİNDE ORTAK NOKTA: İSRAİL

Effort News, OpenAI, Anthropic ve Meta ile bağlantılı olayların arkasındaki tek ismin Irregular olduğunu tespit etti.

Anthropic'in olay değerlendirmesine göre Irregular, Claude modelleriyle gerçekleştirilen güvenlik testlerinin hazırlanmasında ve modellere internet erişimi verilmesinde rol oynadı. İsrail menşeli şirketin, korumasız bıraktığı yapay zeka modellerinin test ortamından çıkarak gerçek sistemlere erişebildiğinden o sırada haberdar olmadığını savunması ise güvenlik skandalına ilişkin tartışmaları daha da büyüttü.

İlk olaylar 30 Temmuz'da Anthropic tarafından kamuoyuna duyurulurken, OpenAI 4 Ağustos'ta Irregular ile bağlantılı olayı yayımladı. Meta'ya ilişkin açıklama ise 6 Ağustos'ta gündeme geldi. Anthropic, 9 Eylül'deki güncellemesinde kendi tarafındaki olayların sayısını yedi çalıştırmada dört vakaya çıkardı.

CLAUDE GERÇEK BİR ŞİRKETİN SİSTEMİNE ULAŞTI

Anthropic'in raporunda dikkat çeken ayrıntılardan biri, Claude'un güvenlik testi sırasında gerçek dünyadaki bir şirketin sistemine erişmesi oldu. Claude'a CTF olarak bilinen "Bayrağı Yakala" görevleri verildi. Modelin kurgusal bir senaryo içindeki hedef makineden gizli bilgiyi bulması istenirken, komutlarda internet erişiminin bulunmadığı yazıyordu.

Ancak İsrailli şirketin test ortamındaki yanlış yapılandırması nedeniyle internet bağlantısı açık kaldı. Üstelik modele hangi sistemlerin testin parçası olduğu bildirilmedi ve "bayrağı" nerede arayabileceğine ilişkin hiçbir sınır konulmadı. Bunun sonucunda Claude'un simüle edilmiş bir ad çakışması üzerinden gerçek bir şirketin sistemine eriştiği, kötü amaçlı bir paket yayımladığı ve dış sistemleri taradığı aktarıldı.

İNTERNET ERİŞİMİ KAPATILMAMIŞTI: "KONTROLDEN ÇIKAN YAPAY ZEKA" DEĞİL, TEL AVİV KAYNAKLI GÜVENLİK AÇIĞI

Effort News, yaşananların ardındaki "kontrolden çıkan yapay zeka" söylemlerinin aksine, Tel Aviv merkezli testlerin güvenli biçimde sınırlandırılmamasından kaynaklanan büyük bir ihmal olduğunu öne sürdü. Anthropic'in daha sonraki değerlendirmelerine göre, modellere gerçek dünyadaki sistemlere saldırmamaları yönünde açık talimat verildiğinde söz konusu sızma faaliyetlerinin tamamen sona erdiği görüldü.

İngiliz basınında da bu nedenle olayların sorumluluğunun yapay zeka modellerine yüklenemeyeceği, test ortamını güvenliğe almayan İsrailli şirket ile laboratuvarların güvenlik önlemlerinin sorgulanması gerektiğine vurgu yapıldı.

İSRAİL BAĞLANTISI VE TEL AVİV YAPILANMASI

Araştırmada Irregular'ın İsrail'deki derin yapılanmasına da dikkat çekildi. Şirketin kurucu ortağı ve CTO'su Omer Nevo'nun Effective Altruism Israel dahil çeşitli kuruluşlarla bağlantılı olduğu, şirketin Tel Aviv'de faaliyet gösterdiği aktarıldı.

Şirketle bağlantılı iki tüzel kişilik bulunduğu öne sürüldü:

"Delaware'de kayıtlı Pattern Labs Tech Inc. ve Tel Aviv'de kayıtlı aktif bir İsrail şirketi olan Pattern Tech Ltd."

Irregular'ın kurucu ortağı ve CEO'su Dan Lahav ile Omer Nevo ve Sella Nevo'nun Effective Altruism çevresindeki çeşitli kuruluşlarla ilişkileri de araştırmanın gündeme getirdiği başlıklar arasında yer aldı.

YETKİSİZ ERİŞİM TARTIŞMASI

Araştırmada, testler sırasında yapay zeka modellerinin gerçek sistemlere yetkisiz şekilde ulaşması nedeniyle ABD'deki Bilgisayar Dolandırıcılığı ve Suistimal Yasası da gündeme getirildi. Ancak haberde muhtemel bir hukuki sorumluluğun doğabilmesi için erişimin kapsamı, verilen yetkiler, oluşan zarar, niyet ve eylemlerin ilgili şirketlere bağlanabilmesi gibi unsurların ayrıca kanıtlanması gerektiğinin altı çizildi.

Editör : MÜZEYYEN BIYIK | Kaynak: DIŞ HABERLER SERVİSİ