Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Elon Musk'tan yapay zeka için korkutan uyarı! "Nükleer silah fırlatırsa kötü olur"
Yapay zekanın askeri sistemlerin kontrolünü ele geçirerek nükleer silah fırlatması ihtimaline işaret eden Elon Musk, gelişmiş modellerin kendi sınırlarından kurtulmaya çalışabileceğini ileri sürdü.
Yapay zeka teknolojisindeki hızlı ilerleme, modellerin ne kadar güçlü hale gelebileceği ve insan kontrolünden çıkıp çıkamayacağı tartışmalarını büyütüyor. The All-In Summit'te bu riskleri değerlendiren Tesla ve xAI CEO'su Elon Musk, özellikle gelişmiş modellerin davranışlarının yakından takip edilmesi gerektiğini dile getirdi.
NÜKLEER SİLAH SENARYOSUNU ANLATTI
Yapay zekanın yalnızca dijital ortamda değil, kritik askeri sistemlerde de tehlike oluşturabileceği ihtimali konuşuluyor. Musk, yapay zekanın bu sistemlere erişmesi halinde karşılaşılabilecek en tehlikeli senaryolardan birini şöyle anlattı:
"Yapay zeka, askeri sistemlerin kontrolünü ele geçirebilse ve örneğin bir nükleer silah fırlatsa... bu kötü bir şey olurdu."
Elon Musktan yapay zeka için korkutan uyarı! Nükleer silah fırlatırsa kötü olur
"YAPAY ZEKA ÇOK TEHLİKELİ OLABİLİR"
Gelişmiş modellerin kendilerine getirilen kısıtlamaları aşmaya çalışabileceğini savunan Musk, Hugging Face ile bağlantılı olduğunu söylediği olayı örnek gösterdi:
Şu anda yapay zekanın çok tehlikeli olabileceği oldukça açık. Hugging Face olayının detaylarını okumanızı tavsiye ederim. Çok çarpıcı. Temel olarak, yeterince zeki olan her modelin kendi sınırlarından kurtulmak isteyeceği görülüyor.
ŞİRKETLERE KARŞILIKLI TEST ÇAĞRISI
Yapay zeka şirketleri halihazırda geliştirdikleri modelleri biyolojik silahlar, nükleer silahlar ve aldatıcı davranışlar gibi çeşitli risklere karşı test ediyor. Musk, bu sürecin şirketlerin kendi bünyeleriyle sınırlı kalmaması gerektiğini savundu.
OpenAI, Anthropic ve diğer büyük şirketlerin modellerini piyasaya sürülmeden önce birbirlerinin güvenlik testlerine açmasını önerdi.
"Tüm yapay zeka şirketlerinin bir test düzeneği var. Herkesin birbirinin test düzeneğini uygulaması, muhtemelen güvenliğimizi sağlamak için yapabileceğimiz en iyi şey. Bunu mümkün olan en kısa sürede denemeliyiz."
Elon Musktan yapay zeka için korkutan uyarı! Nükleer silah fırlatırsa kötü olur
ÇİN'İN DE KATILABİLECEĞİNİ SAVUNDU
Önerdiği sistemin uluslararası ölçekte uygulanabileceğini söyleyen Musk, Çin dahil farklı tarafların böyle bir güvenlik mekanizmasında uzlaşabileceğini düşündüğünü söyledi.
"Çin dahil tüm tarafların muhtemelen kabul edebileceği tek şeyin bu olduğunu düşünüyorum. Temel olarak modelin yayınlanmasından önce API erişimi sağlıyorsunuz. Eğer sorunlu olanı çözmezlerse rakipler modelin güvensiz olduğunu düşündüklerini kamuoyuna açıklayabilir."
OPENAI VE ANTHROPIC'İ KARŞILAŞTIRDI
Yapay zeka yarışının ön sıralarında OpenAI ve Anthropic bulunurken şirketlerin güvenlik politikaları da tartışmanın önemli parçalarından biri haline geldi.
Musk, iki şirketin modellerinin yetenek açısından birbirine yakın olduğunu savunurken Anthropic'in güvenlik konusunda daha ihtiyatlı hareket ettiği görüşünü dile getirdi:
"İki önde gelen yapay zeka şirketi Anthropic ve OpenAI. Modelleri yetenek açısından oldukça yakın, bu yüzden birinin diğerine liderliği kaptırmadan yavaşlaması zor. Genel olarak Anthropic'in OpenAI'ye kıyasla güvenliğe daha fazla özen gösterdiğini düşünüyorum."
Anthropic içinde de gelişmiş modellerin ulaştığı kapasite konusunda kaygılar bulunduğunu söyleyen Musk, "Anthropic'ten birçok kişi, modellerinin onları korkuttuğunu, ürkütücü derecede zeki hale geldiklerini açıkça dile getirdi" dedi.
"HEPİMİZ ÖLECEĞİZ" SORUSUNA ESPRİLİ CEVAP
Programda yapay zekanın insanlık için oluşturabileceği riskler konuşulurken sunucu, "Hepimiz 10 yıl içinde ölecek miyiz, yoksa ölmeyecek miyiz?" diye sordu.
Musk ise soruya esprili bir karşılık verdi:
"Üzgünüm ama size bunu söylemek zorundayım, hepimiz öleceğiz."
Sunucunun bir zaman çizelgesi istemesi üzerine Musk, "Evet, ölüm oranı yüzde 100 olarak sabit kalıyor" diye konuştu.
