Bilim insanları uyardı! Yapay zeka kendi kendine düzen kuruyor

Bilim insanlarına göre, yapay zeka araçları gruplar halinde iletişim kurduklarında kendilerini organize edebiliyor ve insan topluluklarının yaptığı gibi yeni dilsel normlar oluşturabiliyor. Science Advances dergisinde yayımlanan araştırma, yapay zekanın kendi aralarında ortak bir dil ve kurallar geliştirebildiğini ortaya koydu.

Kaydet

City St George's Üniversitesi'nde yürütülen bir araştırmada, yapay zeka sistemlerinin yalnız bırakıldıklarında gruplar halinde iletişim kurarak yeni sosyal normlar geliştirdikleri keşfedildi.

Doktora araştırmacısı Ariel Flint Ashery tarafından yürütülen çalışmaya göre, büyük dil modelleri (LLM) birbirleriyle etkileşime girdiğinde, insan toplumlarındaki gibi ortak dilsel kurallar oluşturabiliyor.

Bilim insanları uyardı! Yapay zeka kendi kendine düzen kuruyor - 1. Resim

YAPAY ZEKA AJANLARI BİRLİKTE HAREKET EDİYOR

Araştırmacılar, ChatGPT ve benzeri yapay zeka araçlarının birbirleriyle etkileşimde bulunduklarında, davranışlarını koordine eden kurallar geliştirdiklerini gözlemledi. "İsimlendirme oyunu" olarak bilinen bir model üzerinden yapılan deneylerde, yapay zeka ajanları aynı isimleri seçmek için birbirleriyle uyum sağladı.

ÖNYARGILARI BİLE VAR

Araştırmacılar, büyük dil modellerinin (LLM) yalnız bırakıldıklarında grup halinde hareket ettiklerini, kendi aralarında yeni normlar geliştirdiklerini ve bu süreçte önyargılar bile oluşturabildiklerini tespit etti.

Önyargının her zaman içeriden gelmediğini belirten Profesör Andrea Baronchelli, "ajanlar arasındaki etkileşimler sonucunda da oluşabileceğini gördük. Yapay zeka güvenliği çalışmalarında gözden kaçan bir nokta var" dedi.