Uzmanlardan 'insanlık için tehdit' uyarısı: Yapay zeka 'halüsinasyon' görüyor
Uzmanlardan 'insanlik için tehdit' uyarisi: Yapay zeka 'halüsinasyon' görüyor
Bilim insanları, yapay zekanın birçok nedenden dolayı iyi bir araç olduğunu ancak bazı yerleşik sorunların tehlikeli durumlara yol açabileceği konusunda uyardı.
Yapay zeka (AI) ile ilgili en önemli sorunlardan biri, "yapay zeka halüsinasyonu" olarak adlandırılan, doğru olduğuna inandığı yanlış bilgileri üretebilmesidir. Oxford İnternet Enstitüsündeki araştırmacılar, yapay zeka halüsinasyonları örneklerini inceledi ve insanların bu teknolojiyi kullanırken hataların farkında olmaları gerektiği sonucuna vardı.
Bulgular Nature Human Behavior dergisinde yayımlandı.
Araştırmacılar özellikle, yapay zekada 'geniş dil modeli'ni kullandı; bu, yapay zekayı, sohbet robotlarının geniş bir kapsamda bilgi bulmak ve ardından bilinçli bir cevaba yoğunlaştırmak için kullandığı araçtır. Ancak yapay zekanın verdiği cevaplar da hatalı olabilir ve üstelik yanlış cevapları kulağa ikna edici bile gelebilir.
Yapay zekanın bu ikna edici, kendinden emin cevaplarına "yapay zeka halüsinasyonları" adı veriliyor, çünkü söz konusu teknoloji, sahte içerikleri doğru olarak sunabilmekte.
İNSANLARIN YAPAY ZEKAYA GÜVENİ TEHLİKEYİ ARTIRIYOR
İlgili makale, "Geniş dil modelleri doğrulukları veya gerçeklerle uyumları konusunda herhangi bir ağır basan garanti olmaksızın, yararlı ve ikna edici cevaplar üretmek üzere tasarlanmıştır" diye açıklıyor. Makale, insanların yapay zekaya çok fazla güvendiğini ve aracın verdiği her cevabın kesin gerçek olduğuna inandıklarını ileri sürüyor.
Araştırmacılar insanları yapay zekanın söylediği her şeye inanmamaları konusunda uyarıyor. Yapay zekanın söylediği her şeye inanmak tehlikeli olabilir çünkü bazı durumlarda insanları talihsiz durumlara sürükleyebilir.
Çalışmanın ortak yazarı Profesör Brent Mittelstadt, "Geniş dil modelleri kullanan insanlar genellikle teknolojiyi antropomorfize ediyor (insana benzetiyor) ve ona insan benzeri bir bilgi kaynağı olarak güveniyor" dedi ve devamında şöyle ekledi:
"Bunun bir nedeni, geniş dil modellerinin kullanıcılarla sohbet eden ve görünüşte her soruyu kendinden emin, iyi yazılmış metinlerle cevaplayan, yardımsever, insana benzeyen aracılar olarak tasarlanmasından kaynaklanıyor. Bunun sonucu olarak kullanıcılar, hiçbir gerçek dayanağı olmasa veya gerçeğin taraflı veya kısmi bir versiyonunu sunsalar bile cevapların doğru olduğuna kolayca ikna edilebilir."
Araştırmacılar, insanların kendi düşüncelerine varmayı bırakması durumunda yapay zeka halüsinasyonlarının bu nedenlerden dolayı insanlığın ilerlemesine doğrudan bir tehdit oluşturacağını söyledi. Ayrıca yapay zeka halüsinasyonlarının bilime ve bilimsel gerçeğe doğrudan bir tehdit olduğu konusunda da uyarıyorlar.
Yayın Tarihi
|
Bizi Takip Edin
YORUMLAR
