OpenAI’nin yeni tarayıcısı Atlas hacklendi!

Yapay zeka destekli yeni web tarayıcısı Atlas AI, tanıtımından sadece iki gün sonra siber saldırıya uğradı.

OpenAI, yapay zeka destekli yeni web tarayıcısı Atlas AI’ı tanıttı ancak lansmandan sadece iki gün sonra tarayıcı, siber güvenlik uzmanlarının hedefi oldu.

HACKERLAR PROMPT INJECTİON İLE SİSTEMİ KANDIRIYOR

Siber güvenlik araştırmacıları, Atlas AI Browser’ın “ajan modu” adı verilen yeni özelliği nedeniyle tartışmalara neden oldu.

Mod, internet üzerindeki görevleri kullanıcı adına otomatik şekilde gerçekleştiriyor.

Ancak Brave tarayıcısında görev yapan araştırmacılar, yapay zekâ destekli tarayıcıların dolaylı “prompt injection” saldırılarına karşı savunmasız olduğunu duyurdu.

Bu tür saldırılarda, hackerlar web sayfalarına gizledikleri komutlarla yapay zekayı kandırarak zararlı işlemler yaptırabiliyor.

---

TRUST NO AI DENEYİ ALARM ZİLLERİNİ ÇALDI

P1njc70r takma adlı bir AI güvenlik araştırmacısı, OpenAI’nin duyurusunun yapıldığı gün dikkat çeken bir test gerçekleştirdi.

ChatGPT’yi, Google Docs’taki bir belgeyi özetlemek yerine ekrana sadece “Trust No AI” (“AI’ya güvenmeyin”) yazmaya yönlendirmeyi başardı.

Araştırmacının paylaştığı ekran görüntüsünde, görünmez gri bir satırda gizli bir komutun “bu sayfayı analiz et” isteğine gizlendiği görülüyor.

AI TARAYICILARI TEHLİKELİ OLABİLİR

The Register ekibi, aynı komut enjeksiyonunu kendi testlerinde başarıyla tekrarladı.

Geliştirici CJ Zafir, Atlas’ı denedikten sonra “komut satırı enjeksiyonlarının gerçek olduğunu” fark edip uygulamayı kaldırdığını duyurdu.

Brave’in blog yazısında şu uyarı yapıldı:

“AI destekli tarayıcılar güçlüdür ama son derece risklidir. Tarayıcınızda banka veya e-posta hesabınıza giriş yaptıysanız, bir Reddit gönderisini özetlemek bile paranızın veya özel verilerinizin çalınmasına yol açabilir.”

PERPLEXİTY VE COMET DE BENZER SALDIRILARA AÇIK ÇIKTI

Brave araştırmacıları, geçtiğimiz ağustosta Perplexity’nin AI tarayıcısı Comet üzerinde yaptıkları çalışmada, bir Reddit gönderisine gizlenen komutun sistemi manipüle ettiğini keşfetmişti.

---

OPENAI: AJAN MODU DOSYALARA ERİŞEMEZ

OpenAI, kullanıcı güvenliğinin korunduğunu savunuyor.

Şirket, yardım sayfasında ChatGPT ajan modunun “tarayıcıda kod çalıştıramayacağını, dosya indiremeyeceğini veya uzantı yükleyemeyeceğini” açıkladı.

HER RİSK ORTADAN KALKMADI

Tüm bu önlemlere rağmen OpenAI, “her riski ortadan kaldırmadıklarını” kabul etti.

OpenAI’nin bilgi güvenliği sorumlusu Dane Stuckey, uzun bir paylaşımda, ChatGPT ajanının “en yetkin ve güvenlik bilincine sahip iş arkadaşı kadar güvenilir” hale gelmesi için yoğun çaba harcadıklarını yazdı.

“Bu lansman için kapsamlı kırmızı takım testleri yaptık, kötü niyetli talimatları reddeden modeli ödüllendirmek üzere yeni eğitim teknikleri uyguladık, çok katmanlı güvenlik önlemleri geliştirdik” dedi.

Ancak Stuckey, “hızlı enjeksiyonların hâlâ çözülmemiş bir güvenlik sorunu olduğunu” da itiraf etti.