Nobel ödüllü bilimciden uyarı: “Yapay zeka bilinç kazandı, insanlık dost olmalı”
Nobel ödüllü bilimciden uyarı: “Yapay zeka bilinç kazandı, insanlık dost olmalı”
Yapay zekanın öncülerinden Geoffrey Hinton, günümüz modellerinin bilinç sahibi olduğuna inandığını söyledi. Hinton, insanlığın yapay zekayla dost olması gerektiğini, aksi takdirde "sonunun geldiğini" savundu.
Geoffrey Hinton, The Telegraph’a verdiği röportajda yapay zekanın geleceğine ilişkin endişelerini anlattı.
Nobel ödüllü araştırmacı, sistemlerin giderek güçlenmesinin yanında insanlarla nasıl bir ilişki kuracağının da belirleyici olacağını düşünüyor.
HINTON’A GÖRE MODELLER TEST EDİLDİKLERİNİ FARK EDEBİLİYOR
Hinton, bilinç konusundaki görüşünü açıklarken yapay zeka modellerinin değerlendirildiklerini düşündüklerinde davranışlarını değiştirebildiğini gösteren bir çalışmaya atıfta bulundu. Araştırmacı, bu durumu farkındalık işareti olarak yorumluyor ve farkındalıkla bilinç arasında yakın bir bağ kuruyor.
Hinton’ın asıl uyarısı ise bu sistemlerin insanlara karşı nasıl davranacağıyla ilgili. Yapay zekanın insanları gerçekten önemseyecek biçimde geliştirilmesi gerektiğini belirterek, bunun başarılamaması halinde “işimiz biter” ifadesini kullanıyor.
BİLİNÇ KONUSUNDA BİLİM İNSANLARI AYNI FİKİRDE DEĞİL
Hinton’ın açıklamaları güçlü bir iddia içeriyor. Bir modelin içinde bulunduğu bağlama uygun davranması ile öznel deneyime sahip olması arasında ise bilimsel tartışmanın merkezinde yer alan bir ayrım bulunuyor.
İstanbul’da sel riski taşıyan 10 ilçe! Son afet yapay zeka risk haritasıyla eşleşti: Ciddi taşkınlarla karşılaşabiliriz
Anil Seth, Ned Block ve Giulio Tononi’nin Nature’da yayımlanan değerlendirmesi, Hinton’ın yaklaşımından farklı bir görüş ortaya koyuyor. Araştırmacılar, dil modellerinin düşünce ve duyguları ikna edici biçimde taklit edebilmesinin, bunları gerçekten deneyimlediklerini göstermediğini savunuyor.
Nobel ödüllü bilimciden uyarı: “Yapay zeka bilinç kazandı, insanlık dost olmalı”
Yazının temel itirazı, zeka ile bilincin aynı şey olmadığı yönünde. Karmaşık görevlerde başarılı olmak, tek başına bir sistemin hissettiğini veya öznel bir yaşantıya sahip olduğunu kanıtlamıyor.
ENDİŞELERİ SİBER SALDIRILARI DA KAPSIYOR
Hinton’ın kaygıları bilinç tartışmasıyla sınırlı kalmıyor. Röportajda yapay zeka destekli ciddi siber saldırılar ve birlikte hareket eden ajanların oluşturabileceği tehlikelere de dikkat çekiyor.
Hinton, daha önce The Guardian’a verdiği röportajda da teknoloji şirketlerinin kendi kendilerini denetlemesine güvenmediğini belirtmişti. Ona göre sektörün daha yetenekli modeller geliştirme yarışı, güvenlik ve etik davranış konularını geri plana itmemeli. Araştırmacı, yapay zekanın gelişiminin yalnızca şirketlerin kararlarına bırakılmasına karşı çıkıyor.
Nobel ödüllü bilimciden uyarı: “Yapay zeka bilinç kazandı, insanlık dost olmalı”
BUGÜNKÜ YAPAY ZEKANIN TEMELLERİNİ ATAN İSİMLERDEN
Hinton’ın açıklamalarının geniş yankı bulmasının nedeni, modern yapay zekanın gelişimindeki rolü. Araştırmacı, yapay sinir ağlarıyla makine öğrenmesini mümkün kılan temel keşif ve buluşları nedeniyle 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşmıştı.
Hinton’ın istatistiksel fizik yöntemlerinden yararlanarak geliştirdiği Boltzmann makinesi, verilerdeki özelliklerin öğrenilmesine yönelik önemli çalışmalardan biri kabul ediliyor. Bu çalışmalar, görüntülerin sınıflandırılması ve üretilmesi gibi alanların gelişimine katkı sağladı.
