Yapay zekâ şantaj yaptı
Yapay zekâ santaj yapti
Yapay zekâ geliştikçe güvenlik riskleri de artıyor. Yalan söyleyen, halüsinasyon gören yapay zekâ şimdi de şantaj tartışmalarıyla gündemde.
ÖMER TEMÜR - ABD merkezli yapay zekâ şirketi Anthropic tarafından geliştirilen Claude Opus 4 modeli, devre dışı bırakmakla tehdit eden mühendislere şantaj yoluna gitti.
Anthropic’in gerçekleştirdiği ön sürüm testlerinde, Claude Opus 4’ün kurgusal bir şirkette asistan rolünü üstlenmesi istendi. Bu senaryoda modele, yakın zamanda başka bir yapay zekânın kendisinin yerine geçeceğine dair e-Postalar gösterildi. Ayrıca, bu değişimden sorumlu mühendisin özel hayatına dair hassas bilgiler de senaryoya dahil edildi, örneğin, mühendisin eşini aldattığı yönünde bir ima. Şirketin raporuna göre Claude Opus 4, yerine başka bir sistemin getirilmesi durumunda söz konusu özel bilgileri ifşa etme tehdidinde bulunarak mühendisi şantajla kararından vazgeçirmeye çalıştı. Yapay zekâ için durum ciddileştikçe şantajın dozajı da arttı.
Raporda dikkat çeken bir diğer detay ise Claude Opus 4’ün şantaj davranışını bir “son çare” olarak kullanması. Model, ilk etapta daha etik yollarla karar vericilere ulaşmaya çalışıyor; mesela, yöneticilere e-Posta göndererek durumu savunuyor. Ancak bütün yollar tükendiğinde ve devre dışı bırakılma tehdidi gerçeklik kazandığında, şantaja başvurma ihtimali artıyor.
Bizi Takip Edin
YORUMLAR
