Ödev yaparken ChatGPT kullananlar dikkat! Kaynak olarak Grokipedia'yı kullanıyormuş

OpenAI'ın son yapay zeka modeli ChatGPT'nin (GPT-5.2), Elon Musk'a ait Grokipedia'yı kullandığı ortaya çıktı. Yanlış ve taraflı bilgi ürettiği için eleştirilen çevrimiçi ansiklopedinin, İran'daki siyasi yapılar, İkinci Dünya Savaşı ve soykırım gibi konularda ChatGPT tarafından kaynak olarak kullanıldığı görüldü.

Kaydet

İngiliz The Guardian gazetesinin haberine göre, OpenAI'ın en yeni ChatGPT modeli (GPT-5.2), Elon Musk'ın yapay zeka tarafından oluşturulan çevrimiçi ansiklopedisi Grokipedia'yı geniş bir yelpazedeki sorgularda kaynak olarak göstermeye başladı.

The Guardian tarafından yapılan testler, platformun İran'daki siyasi oluşumlardan Nazi Almanyası lideri Adolf Hitler hakkındaki biyografilere kadar hassas konularda Grokipedia'dan alıntı yaptığını ortaya çıkardı ve bu durum, yapay zeka platformlarında yanlış bilgi yayılımı konusunda ciddi endişelere yol açtı.

Ödev yaparken ChatGPT kullananlar dikkat! Kaynak olarak Grokipedia'yı kullanıyormuş

GROKIPEDIA YANLIŞ BİLGİ Mİ ÜRETİYOR?

Ekim ayında piyasaya sürülen ve Wikipedia'ya rakip olmayı hedefleyen Grokipedia, doğrudan insan düzenlemesine izin vermiyor; içeriği bir yapay zeka modeli yazıyor. Ansiklopedi, daha önce ABD'deki 6 Ocak ayaklanması gibi konularda da sağ görüşlü anlatıları yaymakla eleştirilmişti.

Guardian'ın testlerinde, GPT-5.2'nin çok sayıda cevabında Grokipedia'yı kaynak gösterdiği belirlendi. Bu sorular arasında İran'daki Besic milis gücünün maaşları, Mostazafan Vakfı'nın sahipliği ve Holokost inkarcısı David Irving aleyhine uzman tanıklık yapan İngiliz tarihçi Sir Richard Evans'ın biyografisi gibi konular yer aldı.

Diğer taraftan habere göre Grokipedia'nın bilgileri, modelin doğrudan yanlış bilgi içeren konularda değil, daha 'belirsiz' sorgularda cevaplarına süzülmüş durumda bulunuyor. Örneğin, ChatGPT'nin Grokipedia'yı kaynak göstererek, İran hükümetinin MTN-Irancell ile olan bağlantıları hakkında Wikipedia'da bulunandan daha güçlü iddiaları (şirketin İran'ın dini liderinin ofisiyle bağlantıları olduğu gibi) tekrarladığı görüldü.

OPENAI VE UZMANLAR NASIL CEVAP VERDİ?

Bir OpenAI sözcüsü, modelin web aramasının "geniş bir yelpazede kamuya açık kaynaklardan ve görüşlerden faydalanmayı amaçladığını" söyledi. Ayrıca, zararlı bağlantıları filtrelemek çin güvenlik önlemleri uyguladıklarını ve ChatGPT'nin kaynakları açıkça gösterdiğini belirtti.

Ancak, Grokipedia'dan gelen bilgilerin yapay zeka modellerinin cevaplarına sızması, dezenformasyon araştırmacıları için büyük bir endişe kaynağı oldu.

Araştırmacı Nina Jankowicz, bu durumun, kötü niyetli aktörlerin yapay zeka modellerine yalan tohumları ekmeye çalıştığı "LLM tımarı" adı verilen süreçle benzer kaygılar taşıdığını ifade etti. Jankowicz, Grokipedia'daki girdilerin "en iyi ihtimalle güvenilmez, en kötü ihtimalle ise kötü kaynaklı ve kasıtlı dezenformasyon" olduğunu belirtti.

Uzmanlar, yapay zeka modellerinin Grokipedia gibi tartışmalı kaynakları göstermesinin, bu kaynakların okuyucuların gözünde güvenilirliğini artırabileceği konusunda da uyardı

ARAMA MOTORLARINDAN SİLİNİYOR, YAPAY ZEKA UNUTMUYOR

Jankowicz, yapay zeka sohbet robotlarına sızan yanlış bilginin kaldırılmasının zor olduğunu kişisel bir örnekle açıkladı. Bir haber kaynağının kendisi hakkında uydurma bir alıntı yayınlamasının ardından, haber kaldırılsa bile yapay zeka modellerinin bir süre daha bu alıntıyı ona atfetmeye devam ettiğini gözlemledi.

ÖNERİLEN HABERLER