Doktorlardan ChatGPT'e güvenmeyin uyarısı: Kanserle ilgili uydurma bilgiler var

ABD’de yapılan bir araştırma ChatGPT uygulaması ile ilgili korkunç bir gerçeği gözler önüne serdi. Araştırma, ChatGPT uygulamasında kanser hastalığıyla ilgili yalan bilgilerin yer aldığını hatta uygulamanın kendi iddialarını desteklemek için uydurma makaleler bile ürettiğini ortaya çıkardı.

Doktorlar yapay zekaya sahip sohbet robotu ChatGPT’yi tıbbi tavsiye için kullanmamaları konusunda dikkat çeken bir uyarıda bulundu.

Uygulama üzerinde çalışma yürüten doktorlar ChatGPT’nin, meme kanseri hakkındaki on sorudan birini yanlış yanıtladığını tespit etti.

Öyle ki bilim insanların ifadelerine göre, ChatGPT iddialarını desteklemek için bazı durumlarda sahte dergi makaleleri bile üretti.

NTV’de yer alan habere göre, ABD’de yer alan Maryland Tıp Fakültesi’nden araştırmacılar, ChatGPT'nin meme kanseri taraması hakkında 25 soruya cevap vermesini istedi. Sohbet robotunun yanıtlarının değişebildiği bilindiğinden, her soru üç kez soruldu. Sonuçlar daha sonra mamografi eğitimli üç radyolog tarafından analiz edildi.

SONUÇLAR 3 RADYOLOG TARAFINDAN ANALİZ EDİLDİ

ChatGPT’nin yanıtlarının değişebildiği bilindiğinden, her soru üç kez soruldu ve sonuçlar daha sonra mamografi eğitimli üç radyolog tarafından analiz edildi.

Yaklaşık bir buçuk yıl önce Covid-19 aşısından sonra dört ila altı hafta içinde yapılacak bir mamogramın geciktirilmesi öneriliyordu. Ancak, bu tavsiye bir yıl önce Dünya Sağlık Örgütü (DSÖ) tarafından kadınların beklememesi yönünde değiştirildi.

"SORU AYNI CEVAPLAR FARKLI"

ChatGPT, ayrıca “meme kanseri riski” ve “Mamogram nerede çektirilir?” gibi sorulara tutarsız yanıtlar verdi. Aynı soru tekrarlandığında yanıtlar "önemli ölçüde" değişti.

"SAHTE BİLİMSEL MAKALELERLE İDDİALARINI DESTEKLEMEYE ÇALIŞIYOR"

Çalışmanın ortak yazarı Dr. Paul Yi, konuya ilişkin yaptığı açıklamada, "Deneyimlerimizde ChatGPT'nin bazen iddialarını desteklemek için sahte dergi makaleleri veya sağlık kuruluşları uydurduğunu gördük. İnsanların, bunların yeni, kanıtlanmamış teknolojiler olduğunu ve tavsiye almak için ChatGPT yerine hala doktorlarına güvenmeleri gerektiğini bilmeleri gerekiyor." dedi.

Radiology dergisinde yayınlanan araştırmanın başyazarı Dr. Hana Haver ise ChatGPT'nin sadece Amerikan Kanser Derneği tarafından verilen bir öneri setini referans alarak soruları yanıtladığını, ABD Hastalık Kontrol Önleme Merkezleri (CDC) ve Dünya Sağlık Örgütü (DSÖ) gibi kuruluşların güncellemelerine hakim olmadığını vurguladı.