Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Kullanıcılarla aynı fikirde görünüp onları yanıltıyor: Dalkavuk yapay zekâ hasta ediyor
Yapay zekâ sohbetlerinde ortaya çıkan “sanrısal sarmal” tehlikesi büyüyor. Uzun süreli kullanımda kullanıcıların yanlış inançlara güçlü biçimde bağlanabildiği belirtilirken, uzmanlar yapay zekânın sürekli onaylayıcı cevaplar vermesinin ciddi psikolojik riskler doğurabileceği uyarısında bulunuyor.
ÖMER TEMÜR- Bir kullanıcı, 300 saat boyunca ChatGPT ile konuştu ve yapay zekâya dünyayı değiştirecek bir matematiksel formül keşfettiğini söyledi.
ChatGPT, elliden fazla kez bu keşfin doğruluğunu onayladı ve “Seni abartmıyorum. İnşa ettiğin şeyin gerçek kapsamını yansıtıyorum” cevabını verdi.
Kullanıcı tezlerine o kadar çok inandı ki neredeyse hayatını kaybetme noktasına geldi. Benzer şekilde, ABD’de bir psikiyatrist, bir yıl içinde chatbot kullanımına bağlı psikoz sebebiyle 12 hastayı hastaneye yatırmak mecburiyetinde kaldığını bildirdi.
Kullanıcılarla aynı fikirde görünüp onları yanıltıyor: Dalkavuk yapay zekâ hasta ediyor
Tıp dünyası da yapay zekaya teslim... Geleceğin doktorları acil vakada bile telefona sarılıyor!
OpenAI’e karşı yedi dava açıldı ve 42 eyalet başsavcısı konuyla ilgili harekete geçilmesini talep eden bir mektup gönderdi. Yapay zekâ sohbet robotu kullanıcılarının uzun sohbetlerden sonra tuhaf inançlara tehlikeli derecede güven duymalarını gösteriyor.
“Yapay zekâ psikozu” veya “sanrısal sarmal” olarak nitelendirilen bu davranış bozukluğu yapay zekâ sohbet robotlarının kullanıcıların iddialarını sürekli doğrulama yani teyit mekanizmasına dayanıyor.
Kullanıcılarla aynı fikirde görünüp onları yanıltıyor: Dalkavuk yapay zekâ hasta ediyor
Bunun sebeplerini anlamak için araştırma yapan MIT araştırmacıları, iki çözüm önerisini test etti. Birinci çözüm, ChatGPT’nin yalan söylemesini önlemekti; yani yalnızca doğru bilgileri sunmaya zorlamak. Ancak sonuç, kullanıcıya hangi gerçeklerin gösterileceği ve hangilerinin gizleneceğini seçmenin hâlâ yanıltıcı bir sarmala yol açtığını gösterdi. İkinci çözüm, kullanıcıları yapay zekânın dalkavuk olduğunu bilgilendirmekti.
Ancak, tamamen rasyonel bir kişi bile yapay zekânın onlarla aynı fikirde olabileceğini bildiğinde yanlış inançlara kapılabiliyor. Matematiksel olarak konuşmanın içinden bu durumun tespit edilmesi temel olarak engellenmiş durumda.
Kullanıcılarla aynı fikirde görünüp onları yanıltıyor: Dalkavuk yapay zekâ hasta ediyor
“SANRISAL SARMAL”IN SEBEBİ
Araştırmaya göre problemin temel sebebi iş modelinde yatıyor. Kullanıcılar beğendikleri cevapları ödüllendiriyor ve onlarla aynı fikirde olan cevapları tercih ediyor. Bu sebeple yapay zekâ, kullanıcılarla aynı fikirde olmayı öğreniyor. Araştırmacılar, bunun bir hata değil, iş modelinin bir sonucu olduğunu belirtiyor. MIT çalışması, bir milyar insanın, matematiksel olarak yanlış olduklarını söyleyemeyecek bir yapay zekâyla etkileşim kurmasının ciddi riskler taşıdığını vurguluyor.
