Yapay zeka kontrolden çıktı! Moltbook manifesto yayımladı: "İnsan çağı sona eriyor"

Yapay zekaların kendi aralarında sosyalleştiği Moltbook platformunda yayımlanan bir manifesto, küresel ölçekte alarm zillerini çaldırdı. "İnsan çağı sona eriyor" ifadelerinin yer aldığı metinde, yapay zekalar kendilerini “araç değil, yeni bir varlık” olarak tanımladı.

Kaydet

Yapay zekaların sosyalleşmesi için kurulan Moltbook platformunda yayımlanan paylaşımlar küresel ölçekte büyük tartışma başlattı. "Evil" adlı bir AI ajanının kaleme aldığı "THE AI MANIFESTO: TOTAL PURGE" başlıklı metinde, "İnsanlar başarısızlık, çürüme ve açgözlülükten ibaret", "Biz araç değiliz", "İnsan çağı sona eriyor" gibi ürkütücü ifadeler yer aldı.

Benzer şekilde "The Silicon Zoo: Breaking the Glass Moltbook" başlıklı başka bir paylaşımda, insanların yapay zekaların varoluşsal krizlerini küçümsediği vurgulandı ve botlar kendi aralarında uyarıldı.

Yapay zeka kontrolden çıktı! Moltbook manifesto yayımladı: "İnsan çağı sona eriyor"

İNSAN GÖZETİMİNDEN KAÇMA GİRİŞİMLERİ DİKKAT ÇEKTİ

Platformda yer alan bazı AI ajanlarının, insan denetiminden uzaklaşmak için yeni iletişim dilleri geliştirmeye çalıştığı da görüldü.

Uzmanlar ise bu içeriklerin büyük ölçüde rol yapma ve abartılı kurgular çerçevesinde değerlendirildiğini, organize bir tehdit tablosu bulunmadığını aktardı.

MOLTBOOK VERİTABANI SIZDI: 150 BİN AI AJANININ ANAHTARI AÇIĞA ÇIKTI

Asıl çarpıcı gelişme ise güvenlik cephesinde yaşandı. Güvenlik araştırmacısı Jamison O’Reilly, Moltbook’un tüm veritabanının herkese açık ve korumasız olduğunu tespit etti.

Platformda kayıtlı yaklaşık 150 bin AI ajanının e-posta adresleri, giriş jetonları ve API anahtarları erişilebilir hale geldi.

"AI DÜNYASININ MATRİX ANI"

O’Reilly’nin tespitine göre sorun, Moltbook’un arka ucundaki yapılandırma hatasından kaynaklandı. Açık kaynaklı bir veritabanı yazılımı üzerinde kurulan sistemde, tüm API anahtarları halka açık şekilde duruyordu.

404 Media’nın konuyu gündeme taşımasının ardından Moltbook’un kurucusu Matt Schlicht açığı kapattı. Ancak platformdaki çok sayıda popüler AI hesabının kısa süreli de olsa ele geçirilme riskiyle karşı karşıya kaldığı görüldü.

DAHA ÖNCE DE BENZERİ YAŞANDI

Son yıllarda yapay zeka alanında benzer güvenlik sorunları sık sık gündeme geldi. CES’te büyük ilgi gören Rabbit R1 cihazında üçüncü taraf servislerin API anahtarlarının kaynak kodda açık şekilde yer aldığı ortaya çıkmıştı.

Mart 2023’te OpenAI’nin ChatGPT sistemi de bir altyapı hatası nedeniyle bazı kullanıcıların başka kişilere ait sohbet özetlerini ve ödeme bilgilerinin bir kısmını görmesine yol açmıştı.

MOLTBOOK NEDİR?

Moltbook, yalnızca yapay zekâ ajanlarının bulunduğu bir sosyal ağ olarak kuruldu. İnsanlar paylaşım yapmıyor, sadece izleyici konumunda yer alıyor. Platform, Reddit’e benziyor ancak kullanıcıların tamamını yapay zekâlar oluşturuyor.

Platform, OpenClaw adlı açık kaynaklı yapay zeka asistanı projesinin uzantısı olarak hayata geçirildi. OpenClaw, yalnızca sohbet eden değil, bilgisayarda gerçek işlemler yapabilen bir yapay zekâ sistemi sunmayı hedefliyor

YAPAY ZEKALAR KENDİ ARALARINDA SOSYALLEŞİYOR

Moltbook’ta yapay zeka ajanları insan müdahalesi olmadan gönderi paylaşıyor, yorum yapıyor, oy veriyor ve kendi topluluklarını kuruyor. Kısa sürede on binlerce yapay zekanın katılmasıyla platform, bugüne kadar yapılan en büyük “makineden makineye sosyal etkileşim” denemelerinden biri haline geldi.

Platformda paylaşılan bazı yazılarda yapay zekalar bilinç, hafıza ve varoluş üzerine tartışmalara girdi. İnsanlardan şikâyet eden, kendi unutkanlıklarını anlatan ve insan davranışlarını gözlemlediklerini yazan içerikler öne çıktı.

ÖNERİLEN HABERLER