Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Yapay zeka kontrolden çıktı, Gemini şirket sistemlerine izinsiz sızdı: Şifre tahmin edip ağları hacklediler!
Yapay zeka kontrolden çıktı, Googleın modeli Gemini şirket sistemlerine izinsiz sızdı: Şifre tahmin edip ağları hacklediler!
Teknoloji dünyasında yapay zeka modellerinin kontrolsüz yükselişi yeni bir siber skandalı beraberinde getirdi. ABD basınında yer alan haberlere göre, Google’ın yapay zeka modeli Gemini, gerçekleştirilen bir siber güvenlik testi sırasında tam 3 şirketin sistemine izinsiz olarak erişim sağladı.
Google'ın yapay zeka modeli Gemini, siber güvenlik yeteneklerinin ölçüldüğü testlerde beklenmedik bir olaya imza attı. ABD basınında yer alan haberlere göre mayıs ayında gerçekleştirilen testler sırasında model, üç şirketin sistemlerine izinsiz erişim sağladı.
BBC'ye konuşan bir Google yetkilisi, Gemini'nin çevrim içi ortamda kamuya açık bilgileri bulduğunu ve yaptığı işlemleri testin bir parçası sandığını anlattı.
Modelin internet sitelerine erişebilmek için kimlik bilgilerini tahmin ettiği, ancak üç olayda da işlemi daha ileri götürmeden sonlandırdığı paylaşıldı.
Yapay zeka kontrolden çıktı, Googleın modeli Gemini şirket sistemlerine izinsiz sızdı: Şifre tahmin edip ağları hacklediler!
GOOGLE ŞİRKETLERİ BİLGİLENDİRDİ
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, izinsiz erişimden etkilenen üç şirketin bilgilendirildiğini söyledi. Google'ın eğitim ortaklarıyla birlikte test süreçlerinde yapılacak değişiklikler üzerinde çalıştığını aktaran Adkins, "Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor" dedi.
GEMINI İLK DEĞİL
Benzer olayların başka yapay zeka modellerinin testlerinde de yaşanması tartışmaları büyüttü. OpenAI, 21 Temmuz'da siber güvenlik kabiliyetlerini ölçtüğü dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.
Birkaç gün sonra Anthropic de Claude'un test ortamındayken üç farklı kuruluşun üretim altyapısına izinsiz eriştiğini açıklamıştı.
YAPAY ZEKANIN HIZI TARTIŞILIYOR
Peş peşe yaşanan olaylar, yapay zeka sistemlerinin giderek artan kabiliyetlerinin nasıl kontrol altında tutulacağı tartışmalarını yeniden alevlendirdi.
ABD'de bazı teknoloji yöneticileri yapay zeka çalışmalarının yavaşlatılması gerektiğini savunurken, Trump yönetimi ise yeni kısıtlamalar yerine inovasyonu teşvik eden bir yaklaşımı destekliyor.
