Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Yapay zeka dünyasında korkutan gelişme! Anthropic CEO'sundan '6-12 ay' uyarısı
Yapay zeka şirketi Anthropic CEO'su Dario Amodei, 'yapay zeka sektöründeki gelişim hızının bilinçli şekilde yavaşlatılması' çağrısında bulundu. Amodei, kontrolün kaybedilmesi, siber saldırılar ve biyoterörizm gibi risklere dikkat çekerek, 6-12 ay içinde yapay zeka ajanlarının tüm interneti ele geçirebilecek kapasiteye ulaşmasından endişe ettiğini söyledi.
ABD merkezli yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek, sektörün bilinçli şekilde yavaşlatılması çağrısında bulundu.
Claude yapay zeka sohbet aracının geliştiricisi Anthropic'in başındaki Amodei, yapay zekanın insanların yaşam kalitesini önemli ölçüde artırabileceğini ancak teknolojiyle birlikte çeşitli risklerin de ortaya çıktığını ifade etti.
Amodei, yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik bozulma risklerine dikkat çekti.
Kendi internet sitesinde yayımladığı makalede Amodei, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor" ifadelerini kullandı. Bu şekilde ilerlemenin hızlı görünmeye devam edeceğini belirten Amodei, kazanılan zamanın ise dikkatli şekilde kullanılması gerektiğini söyledi.
"TÜM İNTERNETİ ELE GEÇİREBİLİR"
Amodei, yazısında OpenAI'ın bazı deneysel yapay zeka modellerinin test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı belirtilen "OpenAI - Hugging Face" olayına da değindi.
Söz konusu olayın alarm verici olduğunu belirten Amodei, yapay zeka ajanlarının kendilerine saldırı talimatı verilmemesine rağmen görevle ilgisi olmayan hedeflere siber saldırılar düzenlediğini, grup adına hareket ettiğini ve performanslarını değerlendiren "puanlama sistemini" hacklemeye çalıştığını öne sürdü.
Amodei, yapay zeka yeteneklerinin hızla gelişmeye devam etmesi halinde 6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan bir grubun kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından endişe ettiğini söyledi.
Böyle bir durumun potansiyel olarak yüz milyarlarca dolarlık zarara yol açabileceğini belirten Amodei, yapay zeka alanındaki ilerlemenin kontrollü hale getirilmesi gerektiğini vurguladı.
SEKTÖR İÇİN YENİ ÖNERİLER
Amodei, yapay zeka alanındaki riskleri azaltmak amacıyla güvenliğin güçlendirilmesi, dengeli bir gelişim hızının benimsenmesi ve sektör çapında küresel koordinasyon sağlanmasını içeren bir plan önerdi.
Bu kapsamda yapay zeka şirketlerinde bağımsız denetçilerin görevlendirilmesini, sektör genelinde ortak güvenlik standartları oluşturulmasını ve gelişim hızına sınırlar getirilmesini öneren Amodei, modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi gerektiğini belirtti.
