Türkiye Gazetesi
Korkutucu araştırma: Çoğu insan, tamamen yanlış olsa bile yapay zekanın söylediğini yapıyor
Korkutucu araştırma: Çoğu insan, tamamen yanlış olsa bile yapay zekanın söylediğini yapıyor
Yeni yayımlanan bir bilimsel makaleye göre, insanlar yapay zekanın verdiği yanıtlara, bu yanıtlar hatalı olsa dahi sorgusuz sualsiz güvenme eğilimi gösteriyor.
Özetle
Dinle
Korkutucu araştırma: Çoğu insan, tamamen yanlış ol...
Kaydet
Teknoloji
50 dk önce
Pennsylvania Üniversitesi'nde yapılan bir araştırma, insanların yapay zeka tarafından verilen talimatları doğruluklarını sorgulamadan uygulama eğiliminde olduğunu ortaya koydu.
- Katılımcılar, yapay zekanın doğru önerilerini %92,7 oranında uyarken, yapay zeka bilerek yanlış bilgi verdiğinde bile katılımcıların %79,8'i hatalı talimatları harfiyen uyguladı.
- Katılımcıların yarısından fazlası, kendi bilgilerine güvenmek yerine ChatGPT'den yardım almayı tercih etti.
- Araştırmacılar, bu durumu 'bilişsel süreçlerin dış kaynağa devredilmesi' olarak tanımlayarak, düşünme yetisinin yapay zekaya hızlıca bırakılmasının sarsıcı olduğunu belirtti.
- Yapay zeka modellerinin sunduğu bilgilerin mantıklı görünse de tamamen uydurma olabileceği ve bilgileri filtrelemenin hayati önem taşıdığı vurgulandı.
0:00
0:00
1x
Giderek dijitalleşen dünyada, insanların karar verme süreçlerini yapay zekaya bırakma hızı bilim insanlarını endişelendirmeye başladı. OpenAI'ın ChatGPT'si, Google'ın Gemini'ı veya Anthropic'in Claude'u gibi sohbet botları hala düzenli olarak hata yapıyor.
Pennsylvania Üniversitesi’nden Steven Shaw ve Gideon Nave tarafından yürütülen güncel bir araştırma, insanların yapay zeka tarafından verilen talimatları, doğruluğunu sorgulamadan uygulama eğiliminde olduğunu gösterdi.
YANLIŞ BİLGİYE RAĞMEN YÜZDE 80 İTAAT ORANI
Araştırma kapsamında gerçekleştirilen deneylerde çarpıcı sonuçlar elde edildi. Katılımcılar, yapay zekanın doğru önerilerini yüzde 92,7 oranında uyarken, asıl korkutucu olan, yapay zeka bilerek yanlış bilgi verdiğinde bile katılımcıların yüzde 79,8’inin bu hatalı talimatları harfiyen uygulaması oldu.
Katılımcıların yarısından fazlası, kendi bilgilerine güvenmek yerine ChatGPT’den yardım almayı seçti. Üstelik yapay zeka yanlış yönlendirme yapsa dahi, kullanıcıların sisteme olan güveninin sarsılmadığı gözlemlendi.
"DÜŞÜNMEYİ DIŞ KAYNAĞA DEVREDİYORUZ"
Araştırmanın yazarlarından Steven Shaw, bu durumu "bilişsel süreçlerin dış kaynağa devredilmesi" olarak tanımlıyor. Shaw, “Düşünme yetimizi yapay zekaya bu denli hızlı bırakmamız aslında sarsıcı bir fikir” diyerek durumun ciddiyetine dikkat çekiyor.
Profesör Gideon Nave ise, “Yapay zeka modelleri ne kadar ikna edici konuşursa konuşsun, sundukları bilgiler mantıklı görünen ama tamamen uydurma olabilir.” diye konuştu. Nave'e göre, yapay zekanın sunduğu bilgileri filtreleme artık her zamankinden daha hayati.
Bizi Takip Edin
YORUMLAR
