Yapay zekânın tıyneti ve kırmızı çizgilere olan ihtiyaç

Prof. Dr. M. Burak Gönültaş
(S. Cumhuriyet Üniversitesi Suçla Mücadele Araştırma ve Uygulama Merkezi Müdürü)

 

 

 

Yapay zekâ uygulamalarının insanlığımıza zarar vermemesi için aşmaması gereken kırmızı çizgilerini tespit etmeliyiz. Çünkü bu teknolojik dönüşüm, tıpkı bir çığ gibi büyük bir gürültü ve karşı konulmaz bir güçle üzerimize geliyor. Çıkıp önüne set çekmek başarılı olmayabilir, bu sebeple bu dönüşümü akılcı-insaflı bir şekilde kabullenmeli ve bulunduğumuz yeri beşerî şartlarına göre yönetmeliyiz.

 

 

 

 

 

 

Dünyada “sosyal iklimin” bozukluğunu ortadadır. Bu iklimde en değerli şey, para ile ölçülenlerdir. İnsanlar bunları gözü gibi korur; öyle kolay kolay ortalığa çıkarmaz. Çünkü bu toplumda var olma sebepleri, o paranın varlığının meydana getirdiği rahatlama yanılsamasıdır! Bu, özenle muhafaza edilen varlığı ortaya çıkarmanın yolu ise kişiye uç duygular yaşatmaktır. Yani korkutacaksınız, şöhretlendireceksiniz, şehvetlendireceksiniz, iştahlandıracaksınız ve üzeceksiniz ki fertlere parasını harcatabilesiniz!

 

Çok enteresan, sadece kebap yemek için uçağa binip bir şehre giden, yedikten sonra dönen ve devamlı nerede ne yenir araştıran değişik bir güruh var. Sosyal medya da bunun gibi şeyler üzerine kurulu. Duygularınızı paylaştığınız platformlar, bir bakmışsınız reklam şirketlerinin cirit alanı hâline gelmiş. Reklam istemiyorsanız üstüne de para vermeniz lazım. Yani yine para harcamak mecburiyetindesiniz! İşte yapay zekâ (YZ) ile önce sizlerin şehvetleri, korkuları, takıntıları, üzüntüleri, açlıkları vs. daha önce toplanan verilerle analiz edilir, sonrasında da bu duygularınızı tatmin edecek şekilde karşınıza bir ürün çıkarılır ve siz buna sahip olursanız rahatlarsınız.

 

 

 

TÜKETİM ALANLARI BÜYÜYOR

 

 

 

Bu arada yeni bir tüketim alanı hızla büyüyor: Çocuklarla ilgili her şey; beslenme, sağlık, eğitim, güvenlik, turizm vs. Tükettirebilmek için bu iklimde çocukları koruyan ebeveyn, “iyi bir anne babadır” şeklinde pompalanır, bu arada siz de sosyal medyada çocuklarla ilgili konuları, ürünleri incelemektesinizdir. Sistem sizin korkunuzu analiz eder, sonra önünüze “güvenlikli sitelerden ev sahibi olmanız gerektiğini, bu evde oturursanız çocuğunuzu daha iyi koruyacağınızı” alımlı bir şekilde hissettirir. Bu arada mağdur çocuk, kötü anne baba haberlerini videolarını önünüze çıkarır. Böylece sizde de bunu alma arzusu, bir hırs hâline gelir. O ürünü alınca da bu korkunuz bir müddetliğine gider, iyi bir ebeveyn olduğunuzu hissedersiniz. İşte size bu iklimin “ulvî hizmeti”: Geçici rahatlama. Ancak rahatlamak için para harcamanız gereklidir. Çünkü güvenlikli bir sitede oturmak daha çok para harcamayı gerektirecektir. 

 

 

 

YAPAY ZEKÂNIN KARAKTERİ

 

 

 

Yukarıdaki tespitlere bakıp YZ’ye tamamen karşı olunması gerektiği anlaşılmamalıdır, bilakis muhtaç bir varlığın, yani bizlerin, teknolojiye kesinlikle ihtiyacı var. Burada endişe edilen durum, YZ ve günümüz teknolojilerinin geliştiği sosyal iklimin temel yapı taşında ahlaki ve beşerî süzgeçlerin olmaması, şu an faydalı gibi görünen bu teknolojilerin ileride ne kadar zararlı olabileceğinin kestirilememesidir. 

 

YZ’nin muhtemel zararlarının etkisini arttıran ve beşerî dokuyu bozan bazı özellikleri en büyük sınırlılıklarımız. Öncelikle bunları göz önüne almamız gerekiyor: Kanaatimce çağımız teknolojisinin en büyük keşfi, insanların beşerî bir varlık olarak toplumda var olabilmeleri için ciddi bir eforla (sosyalizasyon, benlik gelişimi, kendini kontrol, hakka girmeme vs. gibi) sağaltmaya çalıştığı hayvani his ve arzuları üzerindeki kontrolünü bozabilmeyi öğrenmesidir. Buna, teknolojiyi geliştirenlerin hayata pervasız bir şekilde rasyonel ve pragmatist bakışları sebep oluyor. Peki nasıl? İnsana uç duygular yaşatarak yapıyorlar; korkutuyorlar, şehvetlendiriyorlar vs. Bu duyguları yoğun olarak yaşayan kişi, tatmin hissi için hırslanmakta, motive olmakta ve netice olarak zar zor kontrol etmeye çalıştığı bu dürtülerini daha kolay serbest bırakmaktadır.

 

Hâlbuki ferdin bu hislerinin kontrolünü sağlayan mekanizmanın ana harcı, ahlaki ve etik kurallar ile değerlerdir. Bu sebeple teknolojinin günümüzde en büyük rakibi, o toplumun ahlaki altyapısı ve kuralları olmaktadır. Yapay zekâyı da tartışırken bu minvalde hareket etmek gerekiyor.

 

 

 

TEMEL MESELE İNSAN PSİKOLOJİSİ

 

 

 

Gelecekte teknolojinin evrilirken odak alacağı yegâne alanın “insan psikolojisi” olacağını söyleyebiliriz. Çünkü çevremizdeki devasa bilgi ve sistemlerin oluşturduğu stresi yönetmek gerçekten çok zorlaştı. “Matrix Resurrections” filminde ana karakter, yani sistemin mimarı bir psikiyatrdır. Daha önceki seride mimar bir mühendisti. Bakın ne diyordu: “Şimdi, selefim hassasiyeti severdi. Onun Matrix'i tamamen telaşlı gerçekler ve denklemlerden oluşuyordu. İnsan zihninden nefret ederdi. Bu yüzden gerçeklerin umurunuzda olmadığını anlamak için hiç zahmet etmedi. Her şey kurguyla ilgili. Önemli olan tek dünya buradaki. Ve siz insanlar en çılgın saçmalıklara inanıyorsunuz. Neden? Kurgularınızı doğrulayan ve gerçek kılan nedir? Duygular. Ve en iyi kısmı? Sıfır direnç. İnsanlar pislik içindeki domuzlardan daha mutlu bir şekilde kapsüllerinde kalırlar. Her şeyin anahtarı? Sizsiniz. Ve o. Sahip olduklarınızı kaybetmekten korkarken, sahip olmadıklarınız için sessizce özlem duymak. Irkınızın %99,9'u için gerçekliğin tanımı budur. Arzu ve korku, bebeğim. İnsanlara istediklerini ver, tamam mı?" (1)

 

İkincisi, YZ günümüze kadar bir şekilde gelmiş bilgi ve sistem yığınlarını daha efektif kullanmak için devamlı geliştirilen bir teknolojidir. Ne kadar gelişirse, bu bilgilerin ve sistemlerin katkısı beşerî hayata o kadar fazla olacaktır. YZ’nin sosyal etkileşime, çalışma hayatına, kültürel etkileşimin artması ve yabancı dilin daha aktif kullanımına, eğitim araçlarının efektifleşmesi ve bilgiye ulaşımın hızlanmasına, kamu hizmetlerine daha hızlı ulaşmak gibi gündelik hayata pozitif etki edebilecek bir potansiyele sahiptir ki toplumu dönüştürme potansiyeli de bu noktalardan kaynaklanmaktadır. Ancak bu dönüşüm; yüz yüze iletişimin azalması, etkileşimin duygusal boyutunun kaybı, empati eksikliği, bağımlılık ve izolasyon, yalnızlaşma, işsizliğin artması, çabalama-emek ulviyetinin kaybı, zihinsel tembellik ve birçok etik problemleri de içinde barındırmaktadır.

 

Üçüncüsü, YZ, teknolojinin pervasızca topladığı bilginin günümüzde meydana gelen sosyal problemlerin çözümü ve yönetilmesinde kullanılacağı şeklinde lanse edilmektedir. YZ uygulamalarıyla chatleşirken sosyal bir meseleyle ilgili sorunun cevabı, sosyal mesaj içerikli ifadeler ve tavsiyelerle sonlandırılmaktadır. Bu durum YZ’yi geliştirenlerin bu teknolojinin aslında ulvi bir amaca hizmet ettiği algısı oluşturmaya çalıştığı yönünde bir fikir veriyor. 

 

Dördüncüsü, YZ, toplumda değişim ve dönüşüm potansiyelini sağlayabilecek en önemli gelişmelerden biridir ve sanırım da öyle olacaktır. Ancak YZ’nin değiştirdiği toplumda; aktörler, kaynaklar ve etkileşme biçimleri de değişeceği için toplumun yeniden fonksiyonel olmak adına kuralları, değerleri ve normları dönüştürmeye ihtiyacı vardır. Günümüz toplumunda, hızlı sosyal değişimler sebebiyle bu iş kolay olmamaktadır. Peki, burada “kuralları dönüştürme, değer oluşturma” işini kim üstlenecektir? Maalesef bu iş, beşerî bir süzgeçten geçmeyen “başarılı” tipler, samimiyetsiz ama popüler kişiler, naehil insanlar ve kurumlar tarafından yapılacaktır. Yine yapabilirler ancak kısa-uzun vadede bu işler nereye evrilir? İnsanların beşerî yönüne zarar verir mi? Bu sorular etraflıca cevaplandırılmadan değişimi sağlamak, gelecek için en büyük tehlikedir. Her zaman için toplumdaki savunmasız kişilerin, mesela en başta çocukların ve gençlerin zarar görme potansiyeli hep artmaktadır. 

 

 

 

YZ HAYATI KOLAYLAŞTIRACAK MI?

 

 

 

Son olarak YZ’nin zararları açısından aşılması şu an en zor nokta ise YZ’nin inkişaf ettiği problemli sosyal iklimdir. Böyle bir iklim içerisinde sosyal etkileşimlerde bulunmak, ihtiyaçları karşılama çabaları her zaman bu iklimin koyduğu kurallar ve roller üzerinden olacaktır. Teknolojik gelişmelerin de bu iklim içerisinde vücut bulması, dışarıdan bakıldığında “hayatı kolaylaştıracak” gibi görünse de en temelde bu iklimin şartlarına ve kurallarına göre çalışacağı için, ferdin beşerî inkişafı hep ikinci planda kalacaktır. Kısacası bu tür imkânlar için her ne kadar “insana zarar vermez” şekilde çeşitli modifikasyonlar yapılsa da her zaman aslına rücu etme potansiyeli önümüzde durmaktadır.

 

Bu beş tespit, YZ uygulamalarının kırmızı çizgilerinin kuvvetli bir şekilde ortaya konulmasını ve beşerî devamlılık için herkesin buna sahip çıkmasını gerekli hâle getiriyor. Başka çare yok gibi. Çünkü insanoğlunun “Terminatör”de olduğu gibi gelecekten geçmişe gelip çipleri yok etme fırsatı maalesef olmayacak. 

 

 

 

YENİ BİR BAKIŞ AÇISINA OLAN İHTİYAÇ

 

 

 

Bu tespitlerimiz ışığında şunu da söyleyebiliriz: YZ’nin doğuştan fıtratı maalesef problemlidir; çünkü şu anki baskın sosyal iklimin çocuğudur. Bu iklimde yetişen gıdayı yemekte, havayı solumakta ve suyu içmektedir. Bu sebeple, böyle bir iklimde yetişen bir ürün eğer iyi bir şey yapıyorsa hayret etmelidir. Şunu unutmamalı, ilk insan aynı zamanda bir peygamberdir, hukuk insanıdır. Bu kâinatın Yaratıcısı, insanı, doğasını ve etkileşimlerini kuralsız bırakmamıştır, ferahlık budur. Hukuk neden var? Çünkü bizim her zaman birbirimizin mülkiyetine haksız olarak girme potansiyelimizden dolayı. Bu bizim yaradılışımızda olan bir hususiyet. İşte hukuk bu potansiyeli düzenler, kurallar koyar ve yaptırımlar belirler, denetler. Yani her şartta “sosyal düzeni” sağlamak adına kuralların ve değerlerin fonksiyonelliğine ve değişim sürecinde ortaya çıkabilecek zararları minimale indirebilecek bakış açılarına ve akli-vicdani yönlendiricilere ihtiyaç olduğunu söyleyebiliriz. 

 

Bu meyanda teknolojinin ve yapay zekâ uygulamalarının işleyiş kuralları çok acil belirlenmeli ama en öncesinde beşerî dokuya zarar vermeyecek şekilde prensipleri evrensel bir şekilde ortaya konmalıdır. YZU’nun insanlığımıza zarar vermemesi için aşmaması gereken kırmızı çizgilerini belirlemeliyiz. Çünkü bu dönüşüm tıpkı bir çığ gibi büyük bir gürültü ve karşı konulmaz bir güçle üzerimize geliyor. Çıkıp önüne set çekmek başarılı olmayabilir, bu sebeple bu dönüşümü akılcı-insaflı bir şekilde kabullenmeli ve bulunduğumuz yeri beşerî şartlarına göre yönetmeliyiz. Ancak hâlihazırda sosyal iklimi analiz edebilecek sosyal teoriler ve bakış açıları, bu yeni ve hızlı değişimin dinamiklerini anlamak ve toplumun-ferdin iyilik hâlini sağlama hususunda yön göstermek açısından yetersiz kalabilir. 

 

Kısacası, günümüz toplumunun ahvali üzerinden yaptığımız bu basit değerlendirmeye de bağlı olarak beşerî yapımızın ciddi şekilde tehdit altında olduğunu söyleyebiliriz. Çünkü hızlı gelişmelere baktığımızda bu süre daralıyor. Nitekim YZ’nin babası olarak kabul edilen Profesör G. Hinton, yapay zekânın insanlığın sonunu getirme riskinin gelecek otuz yıl içerisinde yüzde yirmiye kadar çıktığını belirtmiştir. Yine Hinton, dünya liderlerine çağrıda bulunarak insanlığın geleceğini korumak için etik kurallara ve sıkı denetime ihtiyaç olduğunu vurgulamıştır (3).

 

-------

 

(1) https://www.turkiyegazetesi.com.tr/kose-yazilari/genis-aci-fikir-ve-tartisma/sosyal-degisim-sosyal-iklim-ve-yapay-zeka-648984

 

(2) https://matrix.fandom.com/wiki/The_Analyst.

 

(3) https://www.trthaber.com/haber/dunya/geoffrey-hinton-yapay-zekanin-insanligi-yok-etme-ihtimali-yuzde-20ye-yukseldi-893106.html

 

 

 

Geniş Açı - Fikir ve tartışmada önceki yazılar...