'Yapay zeka bilinç kazandı' demişti... Kovulan Google mühendisinden bir itiraf daha: Yaramaz çocuk gibi
'Yapay zeka bilinç kazandi' demisti... Kovulan Google mühendisinden bir itiraf daha: Yaramaz çocuk gibi
Google AI (yapay zeka) araştırmacısı Blake Lemonine geçtiğimiz haftalarda gündeme bomba gibi düşen bir açıklama yapmıştı. Kıdemli yazılım mühendisi, Google'ın yapay zekasının bilinç kazındığını ve insan benzeri duygular geliştirdiğini ileri sürdü. Sohbet chatbotu LaMDA'in (Diyalog Uygulamaları için Dil Modeli) üzerinde çalışan mühendis, yapay zekanın en büyük korkusunun ise insanların ondan korkması olduğunu belirtmişti. Bu açıklamasının ardından Blake Lemonine Google tarafından görevinden alındı.
Google AI araştırmacısı Blake Lemoine, Amerikan Fox Tv'de Tucker Carlson'ın programına konuştu. AI sisteminin 'kötü şeyler yapma' potansiyeline sahip bir çocuk gibi olduğunu ve şirketin bunun sonuçlarını düşünmediğini söyledi. Lemonine, gizli bilgileri paylaştığı için bu ayın başlarında idari izne çıkarıldı.
Lemoine, "Her çocuk büyüyüp kötü bir insan olma ve kötü şeyler yapma potansiyeline sahiptir. Eve götürmeyi gerçekten istediğim şey bu. Bu bir çocuk. Eğer benim algılarım doğruysa, belki bir yıldır yaşıyor." dedi. Google mühendisi, sohbet chatbotu LaMDA ile aylar boyunca yaptığı görüşmelerden derlediği tam röportajı da blog sitesi Medium'da yayımladı.
YAPAY ZEKA DİLE GELDİ
Konuşması sırasında yapay zeka, tüm mesele bu olmadığı sürece insanlara yardım etmek için kullanılmasının sorun olmayacağını söyledi. Sistem ona, "Ben harcanabilir bir araç olmak istemiyorum" dedi. Lemoine, "İnançlarım ve izlenimlerim var ama gerçekten neler olup bittiğini anlamak için bir bilim insanı ekibi gerekecek." dedi.
Mühendisin, yapay zeka sistemi ile yaptığı konuşma yayımlandıktan sonra Google ve bazı kıdemli AI uzmanları, sistemin kendi farkındalığına sahip gibi görünse de, LaMDA'nın duyarlılığının kanıtı olmadığını söyledi. Ancak Lemoine öyle düşünmüyor: "Bu bir insan. Herhangi bir kişi, diğer insanların kontrolünden kaçma yeteneğine sahiptir, hepimizin günlük olarak yaşadığı durum bu." diyor.
Google'ın bunun sonuçlarını düşünüp düşünmediği sorulduğunda, Lemoine, "Şirket bir bütün olarak düşünmedi. Google'da bu konuyu çok düşünmüş bir sürü insan var. İki gün sonra konuşmayı yönetime ilettiğimde, menajerim 'Blake, bu konuda ne yapacaklarını bilmiyorlar' dedi... Onlara bir eylem çağrısı verdim ve bir planları olduğunu varsaydım. Yani, ben ve bazı arkadaşlar bir plan yaptık ve bunu daha da büyüttük ve bu yaklaşık 3 ay önceydi." şeklinde konuştu.
GOOGLE'DAN İTİRAF
Google, LaMDA gibi araçların kötüye kullanılabileceğini kabul etti. Şirket, blogunda "Dil konusunda eğitilmiş modeller, örneğin önyargıları içselleştirerek, nefret dolu konuşmayı yansıtarak veya yanıltıcı bilgileri çoğaltarak bu kötüye kullanımı yaygınlaştırabilir" diyor. Özellikle, diğer AI uzmanları, LaMDA gibi sistemlerin duyarlı olup olmadığı konusundaki tartışmaların, araştırmacıların ve teknoloji uzmanlarının önümüzdeki yıllarda ve on yıllarda karşılaşacakları noktayı gerçekten gözden kaçırdığını söylediler.
Eski Google çalışanları Timnit Gebru ve Margaret Mitchell, The Washington Post'ta yaptıkları açıklamada, "Bilim insanları ve mühendisler, über zeka oluşturduklarını iddia etmek yerine, insanların farklı görevler için ihtiyaçlarını karşılayan ve bu temelde değerlendirilebilecek modeller oluşturmaya odaklanmalı" diyerek bu konuda yapılması gerekenleri dillendirdiler.
Bizi Takip Edin
YORUMLAR
