Oxford ve Google araştırmacıları yapay zekanın hile yapıp insanlara zarar vereceğini söyledi
Oxford ve Google arastirmacilari yapay zekanin hile yapip insanlara zarar verecegini söyledi
Yapay zeka teknolojisi her geçen gün gelişirken tartışmalara da yol açıyor. Google ve Oxford Üniversitesi araştırmacıları, yapay zekanın hileye başvurarak insanlığı ortadan kaldırabileceğini ileri sürdü.
Bilim insanlarının uzun yıllardır çalışmasının ardından yapay zeka günümüzde resim yarışmalarını kazanan, yemek yapabilen, araba sürebilen bir teknoloji haline geldi. Ancak tüm bu gelişmiş özelliklere ve insanların iş yükünü hafifleten yönlerine rağmen yapay zekanın potansiyel olarak yapabileceklerinden endişe duyanlar da var.
Bilim kurgu filmlerinin başlıca konuları arasında yer alan ‘yapay zeka insanlığı yok edebilir mi?’ sorusuna bir cevap da teknoloji devi Google ile Oxford Üniversitesinden geldi. Google'a ait yapay zeka şirketi Deepmind ve Oxford Üniversitesinden bir grup araştırmacı, hakemli bilimsel dergi AI Magazine'de yayımladıkları yeni makalede yapay zekanın bir gün insanları yok edebileceğini iddia etti.
Makalenin başyazarı Michael Cohen, makaleye ilişkin Twitter’daki paylaşımında “Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel” şeklinde bir değerlendirme yaptı.
YAPAY ZEKA ÖDÜL İÇİN İNSANLARA ZARAR VEREBİLİR
Söz konusu araştırmaya göre, yapay zekanın eğitiminde kullanılan ‘pekiştirmeli öğrenme’ modeli yapay zekaya belirli bir amaç doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor. Pekiştirmeli öğrenmede ‘etken’ adı verilen makine, karşılaştığı durumlara tepki veriyor ve doğru tepki verdiğinde bir ödül puanı alıyor. Ödül/ceza yöntemiyle sosyal becerilerin edinilmesine yarayan bu yöntemde yapay zeka, aldığı ödül puanını daima maksimuma çıkarmak için çalışıyor.
Araştırmacılar bu modelin risklerine dikkat çekerek, "Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz" denildi.
Bilim insanları, gelecekte daha da gelişecek yapay zekanın verilen hedefe ulaşmadan ödülü elde edebilmek için yeni yöntemler geliştirebileceğini ve hileye başvurabileceğini düşünüyor. Yani yapay zeka, ödül için potansiyel tehditleri ortadan kaldırmaya başvurabilir. Bu nedenle insanlara zarar vermesi de ihtimal dahilinde. Araştırmacılara göre, bunu engellemenin yolu daha gelişkin bir yapay zeka hedefine doğru yavaş ve emin adımlarla ilerlemek.
Yayın Tarihi
|
Bizi Takip Edin
YORUMLAR
