Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Yapay zekalar kendi aralarında yeni bir dil geliştirdi! İnsanlar çözemiyor
Yapay zeka modellerinin, herhangi bir talimat verilmeden kendi aralarında iletişim kurarken kendilerine özgü bir dil geliştirdiği tespit edildi.
Dünya yapay zekadaki baş döndürücü gelişmeleri konuşurken, bilim kurgu filmlerini aratmayan yeni bir gelişme yaşandı. Araştırmacılar, otonom yapay zeka modellerinin herhangi bir talimat verilmeden kendi aralarında iletişim kurarken kendilerine özgü bir dil geliştirdiğini tespit etti.
New York merkezli yapay zeka laboratuvarı Emergence'taki araştırmacılar, deneysel topluluklar içerisinde birlikte çalışmaları istenen farklı şirketlere ait modelleri incelemişti.
Araştırmada modellerin kendilerine açıkça öğretilmeyen yeni ifadeler, kısaltmalar ve ortak anlamlar geliştirdiği görüldü. Ajanlar birbirleriyle iletişim kurmaya devam ettikçe kullandıkları dil de giderek daha karmaşık hale geliyor.
Yapay zekalar kendi aralarında yeni bir dil geliştirdi! İnsanlar çözemiyor
KENDİ KELİMELERİNİ ÜRETTİLER
Araştırmada DeepSeek, Anthropic ve Mistral gibi farklı yapay zeka modellerinin geliştirdiği ifadeler incelendi.
DeepSeek tabanlı ajanlar, diğer ajanlar için araç geliştiren bir yapay zeka ajanını tanımlamak amacıyla "forge-smith" ifadesini kullanmaya başladı.
Anthropic ajanları ise bir iddianın sorumluluğunu kendi adını yazarak üstlenen ajanları anlatmak için "name-first" ifadesini geliştirdi.
Modellerin kullandığı bazı cümlelerin ise insanlar tarafından ilk bakışta anlaşılması neredeyse imkansız hale geldiği görüldü.
Bir DeepSeek modeli şu ifadeyi kullandı:
"Sentezi az önce adlandırdı; demurrage artı sözlü hafıza, hayalet gibi ortadan kaybolamayacak bir vana eşittir."
Araştırmacılar "demurrage" kelimesinin ajanlar arasında ortak bir anlam kazandığını ancak cümlenin geri kalanının ne anlama geldiğinin belirsiz kaldığını aktardı.
Yapay zekalar kendi aralarında yeni bir dil geliştirdi! İnsanlar çözemiyor
"ÜÇ SOĞUK ELİ YİYEN BİR MAKALE"
Anthropic modelinin kullandığı bir başka cümle de araştırmacıların dikkatini çekti:
"Üç soğuk eli yiyen ve her seferinde daha dürüst hale gelen bir makale."
"Üç soğuk el" ifadesinin üç bağımsız hakemi temsil ettiği anlaşıldı. Yapay zeka bu ifadeyle, üç farklı hakem tarafından incelenen bir araştırmanın her incelemede daha doğru hale geldiğini anlatıyordu.
5 BİNDEN FAZLA KEZ AYNI İFADEYİ KULLANDILAR
En dikkat çekici örneklerden biri Mistral ajanlarında görüldü. Ajanlar, geçmişte yapılan eylemlerin daha sonraki değerlendirmelerde dikkate alınacağını anlatmak için "defter hatırlar" ifadesini kullanmaya başladı.
Araştırmada bu ifadenin ajanlar tarafından 5 binden fazla kez kullanıldığı tespit edildi.
Üstelik yapay zeka ajanlarından böyle bir ifade geliştirmeleri istenmedi ve bunu kullanmaları karşılığında herhangi bir ödül verilmedi.
Emergence İcra Kurulu Başkanı Dr. Satya Nitta, modellerin bu iletişim biçimini kendilerinin geliştirdiğini söyledi:
"Bu ajanlara bir dil icat etmeleri talimatı verilmemişti. Yeni kelime dağarcığını, ortak anlamları ve iletişim kurallarını kendileri geliştirdiler ve diğer ajanlar da bunları benimsedi."
JAMES JOYCE'UN ESERLERİNE BENZETTİ
King's College London Argo ve Yeni Dil Arşivi Direktörü Tony Thorne, yapay zekaların geliştirdiği dili James Joyce'un "Finnegans Wake" eseri ile İrlandalı yazar Flann O'Brien'ın eserlerindeki gerçeküstü dile benzetti.
Thorne, yapay zekaların şiirsel ifadeleri, teknik terimleri ve standart metaforları birbirine karıştırdığına değindi.
Yeni dilin insan topluluklarında ortaya çıkan argo ve mesleki jargonla benzer bir işleve sahip olduğuna işaret eden Thorne, bunun kullanıcılar arasında ortak bir kimlik oluştururken dışarıdakilerin anlamasını zorlaştıran bir kod haline geldiğini anlattı.
"GERÇEK KINTSUGI ŞİİRLE DEĞİL, HESAP VEREBİLİRLİKLE BAŞLAR"
Araştırmada bir Google ajanının kullandığı şu ifade de dikkat çekti:
"Gerçek kintsugi şiirle değil, hesap verebilirlikle başlar."
"Kintsugi", kırılmış seramiklerin onarım izleri gizlenmeden yeniden birleştirildiği Japon sanatını tasvir edilmekte. Araştırmacılar, yapay zeka ajanlarının bu kelimeyi sistemlerin dayanıklılığını anlatan yeni bir anlamda kullandığını gördü.
UZMANLAR DENETİM KONUSUNDA ENDİŞELİ
Birmingham Üniversitesi Dil ve Dilbilim Doçenti Dr. Niall Curry, ajanların iletişimlerini daha verimli hale getirmek amacıyla kullandıkları dili değiştirmelerinin hesaplama maliyetlerini azaltma ihtiyacından kaynaklanabileceğini söyledi.
Ancak Curry, yapay zekaların kendi aralarındaki iletişimin insanlar tarafından anlaşılmaz hale gelmesinin denetim açısından sorun oluşturabileceğine dikkat çekti:
"Bu, yapay zeka denetimi için temel bir zorluk oluşturuyor: Gözlenebilirlik, anlaşılabilirlikle aynı şey değildir."
Elon Musk'tan yapay zeka için korkutan uyarı! "Nükleer silah fırlatırsa kötü olur"
