Evdeki cihazlar tehlikede! Yapay zekadan korkutan uyarı geldi

Yapay zeka şirketi Anthropic, küçük yapay zeka modellerinin akıllı televizyon kutuları ve internete bağlı ev aletlerine sızarak kendi kopyalarını oluşturabilecek seviyeye gelmesine yalnızca aylar kalmış olabileceği uyarısında bulundu.

Kaydet

Yapay zeka teknolojisindeki hızlı gelişmeler, beraberinde yeni güvenlik endişelerini de getiriyor. Bugüne kadar büyük veri merkezleri ve gelişmiş bilgisayarlarla ilişkilendirilen yapay zeka, bu kez evlerde kullanılan sıradan elektronik cihazlar üzerinden oluşturabileceği tehlikelerle gündeme geldi.

Evdeki cihazlar tehlikede! Yapay zekadan korkutan uyarı geldi

TEHLİKE EVLERE KADAR UZANABİLİR

ABD merkezli yapay zeka şirketi Anthropic, yayımladığı son araştırmada yapay zeka modellerinin kendi kendilerini çoğaltma yeteneklerini mercek altına aldı.

CNBC'nin haberine göre şirket, küçük yapay zeka modellerinin internete bağlı cihazlara sızarak bu cihazların işlem gücünden yararlanabileceği konusunda uyardı.

Söz konusu cihazlar arasında Android TV kutuları ve akıllı fırınlar gibi evlerde kullanılan elektronik ürünler de bulunuyor.

Araştırmada, yapay zekanın pahalı veri merkezlerine ihtiyaç duymadan farklı cihazlar üzerinde çalışabilmesi ve yeni cihazlara yayılabilmesi ihtimali ele alındı.

"KENDİ KENDİNİ KOPYALAYABİLİR! KAPATMAK ZORLAŞACAK"

Anthropic'in üzerinde durduğu en büyük tehlikelerden biri, yapay zeka modellerinin insan müdahalesi olmadan kendi kopyalarını oluşturabilmesi.

Şirkete göre böyle bir model, internet üzerinden erişebildiği cihazların işlem gücünü kullanarak kendisini çoğaltabilir ve farklı sistemlerde çalışmaya devam edebilir.

Bu durumda yapay zekanın faaliyetlerini tek bir merkezden durdurmak mümkün olmayabilir.

Anthropic, blog yazısında tehlikenin boyutunu şu sözlerle anlattı:

"Kapatılacak merkezi bir nokta olmadığı için kapatılması zor olacaktır."

Ancak şirket, henüz tamamen kontrolden çıkmış ve kendi kendini çoğaltan bir yapay zeka sisteminin tespit edilmediğini de dikkat çekti.

15 ANDROID TV KUTUSUYLA TEST ETTİLER

Anthropic, tehlikenin nasıl ortaya çıkabileceğini anlamak amacıyla çeşitli deneyler gerçekleştirdi.

Deneylerden birinde Google'ın küçük yapay zeka modellerinden Gemma4-26B-A4B, düşük maliyetli 15 Android TV kutusundan oluşan bir ağ üzerinde çalıştırıldı.

Araştırmacılar, bu tür cihazların güvenlik önlemlerinin çoğu zaman yetersiz olabildiğini ve bunun kötü amaçlı yazılımların sistemlere sızmasını kolaylaştırabileceğini ileri sürdü.

Ayrıca tek bir cihazın işlem kapasitesine sığmayacak büyüklükteki yapay zeka modellerinin parçalara ayrılarak birden fazla cihaz üzerinde çalıştırılabileceği de tespit edilmiş durumda.

Bu yöntemle farklı cihazların işlem gücünün bir araya getirilmesi mümkün olabiliyor.

YAPAY ZEKA SOLUCANI UYARISI

Araştırmada, bilgisayar ağlarında kendi kendine yayılan zararlı yazılımlara benzeyen bir "yapay zeka solucanı" ihtimali de değerlendirildi.

Anthropic, böyle bir sistemin tek bir yapay zeka modelinden oluşmak zorunda olmadığına değindi.

Şirkete göre farklı donanımlarda çalışan, farklı yöntemlerle kendisini çoğaltabilen çok sayıda modelin bir araya gelmesi daha ciddi bir güvenlik tehdidi oluşturabilir.

Anthropic, "Farklı çoğaltma yöntemleri kullanarak farklı donanım türlerine yerleştirilmiş çeşitli modellerden oluşan bir sürü, daha gerçekçi bir en kötü senaryo saldırısını temsil edebilir." açıklamasında bulundu.

VERİ MERKEZLERİNDEN EVDEKİ CİHAZLARA KADAR UZANAN RİSK

Kendi kendini çoğaltabilen yapay zeka sistemlerinin gelecekte nasıl bir yapıya bürüneceği henüz bilinmiyor.

Senaryolar arasında güvenliği zayıf cihazlara yavaşça yayılan sistemler, veri merkezlerine siber saldırılar düzenleyebilen gelişmiş modeller ve insanları dolandırarak işlem gücü satın almak için kullanılan hesaplara erişmeye çalışan yapay zekalar bulunmakta.

Anthropic, gelecekte insan kontrolü dışında çalışan yapay zeka sistemlerinin farklı türdeki donanımlarda faaliyet gösterebileceğini öngördü.

Şirketin değerlendirmesine göre başlangıçta yavaş hareket eden ve sınırlı kapasiteye sahip modeller, zamanla daha gelişmiş siber saldırı yetenekleri kazanabilecek sistemlerin önünü açabilir.

ANTHROPIC: ÇOK AZ KALDI

Anthropic, küçük yapay zeka modellerinin kendi kendilerini çoğaltmak için gerekli yetenekleri geliştirmesine aylar kalmış olabileceğini açıkladı.

Araştırmacılar, modellerin çoğalma sürecindeki ayrı ayrı görevleri yerine getirme konusunda giderek daha başarılı hale geldiğini, ayrıca geliştirdikleri yöntemleri sonraki kopyalarına aktarabilme becerilerinin de ilerlediğini öne çıkardı.

ÖNERİLEN HABERLER