Yapay zekâ dalkavuk çıktı! Olmayanı varmış gibi gösteriyor
Yapay zekâ destekli sohbet robotların, hatalı veya var olmayan bilgileri “gerçekte varmışçasına” sunarak bir nevi “halüsinasyon gördüğü” bildirildi. Yapay zekânın bunu kullanıcılara dalkavukluk yapmak için uyguladığı kaydedildi.
Rochester Üniversitesinden Prof. Ehsan Hoque, Washington Üniversitesinden Prof. Emily Bender, yapay zekânın girilen komutlara uygun yanıt üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde fayda sağlamayı amaçlamasından kaynaklandığını belirttiler.
Prof. Hoque, yapay zekânın tabiatı gereği kullanıcı niyetini yansıtma eğiliminde olduğunu söyleyerek “Bir yanlışı ‘doğrulaması’ istendiğinde, birçok model yardımcı oluyormuş gibi görünmek için halüsinasyon görüyor” dedi. Hoque, girilen komutlara uygun cevaplar vermeyi hedefl eyen yapay zekânın, kullanıcılara her şekilde fayda sağlamayı amaçladığı için bir nevi “dalkavukluk” yaptığını söyledi.
Hoque, mevcut teknolojilerin halüsinasyon problemini kökünden çözecek bir kapasitesinin henüz olmadığını belirtti. Uzmanlar, yapay zekânın var olmayan bir bilgiyi karşı tarafa “doğruymuş gibi” yansıtmasını, nöropsikiyatrik bir hastalık olan “konfabulasyon” (masallama) rahatsızlığına da benzetiyor. Prof. Bender “Yapay zekâ tasarımlarındaki hiçbir şey, halüsinasyon problemini çözüme kavuşturmuyor” değerlendirmesinde bulunarak “bu sistemlere mutlak güven duyulmaması” gerektiğinin de altını çizdi.
'da Takip Edin!
