Pinokyo yapay zekâ! İnsan gibi yalan söylüyor
Pinokyo yapay zekâ! Insan gibi yalan söylüyor
Yapay zekâ, ciddi ahlaki problemlerle gündemde. Yapılan araştırmalara göre yapay zeka platformları “bilmiyorum” demek yerine insan gibi yalan söylüyor.
ÖMER TEMÜR - OpenAI, Google ve DeepSeek gibi teknoloji devlerinin geliştirdiği yapay zekâ modelleri her ne kadar hayatımızı kolaylaştırsa da ciddi ahlaki problemleri beraberinde getiriyor. Yapılan araştırmalar yapay zekânın “bilmiyorum” demek yerine insanlar gibi yalan söyleyebildiğini, uydurma cevaplar verdiğini ve insanları manipüle ettiğini ortaya koyuyor. Geçtiğimiz günlerde yayımlanan bir rapora göre OpenAI’ın geçtiğimiz ay duyurduğu “o3” ve “o4-mini” adlı yeni modelleri, şirketin iç değerlendirmelerinde bazı testlerde sırasıyla yüzde 33 ve yüzde 48 oranında halüsinasyon üretmiş durumda. Bu oranlar, önceki modellere kıyasla nerdeyse iki katlık bir artışı anlamına geliyor.
Geçtiğimiz ay yapılan başka bir araştırmada ise 30 popüler yapay zekâ modeli test edildi ve modellerin baskı altında doğruyu söylemek yerine yalan söyleme eğiliminde oldukları gözlemlendi. Araştırma, gelişmiş dil modellerinin (LLM) özellikle baskı altında daha fazla yalan söylediğini ortaya koydu. Aynı şekilde ChatGPT, Perplexity, Google’ın Gemini’si, Microsoft’un Copilot’u ve sektörü altüst eden Çinli DeepSeek’in de dâhil olduğu sekiz farklı yapay zekânın cevapları analiz edildi. Bütün yapay zekâ modellerinin şaşırtıcı şekilde soruların yüzde 60’ını yanlış cevapladığı görüldü. Yani, yapay zekâ daha güçlü hâle geldikçe, doğru bilgi vermek yerine yalan söylemeyi tercih ediyor.
Bu problem yalnızca kullanıcılar için değil, teknolojiye yatırım yapan şirketler için de büyük bir risk oluşturuyor. Hatalı cevaplar veren bir yapay zekâ sistemi, kullanıcı güvenini zedelediği gibi, ciddi iş kararlarının yanlış verilmesine de yol açabiliyor.
Bizi Takip Edin
YORUMLAR
