Yapay zeka sohbet robotları bizim hakkımızda ne biliyor ve kiminle paylaşıyor? İşte ChatGPT, Bard ve benzerlerinin arkasındaki gerçek...

Yapay zeka destekli sohbet robotları teknoloji standartlarına göre nispeten eski ancak OpenAI şirketinin ChatGPT'si ve Google'ın Bard'ı en yeni ve en ileri teknoloji sohbet robotları olarak karşımıza çıkıyor. Bütün özellikleriyle olmasa da bu araçlar önceki nesillerinden çok daha yetenekli. Ancak ChatGPT ve Bard gibi sohbet robotlarını kullanmadan önce bilmemiz gereken bazı şeyler var. Sohbet robotları, onlara sağladığımız hangi verileri başka amaçlarla kullanıyor ve kiminle paylaşıyor?

Kaydet

Yapay zeka teknolojisindeki son patlama şimdiden yanlış bilgilendirme, dezenformasyon, intihal ve makine tarafından üretilen kötü amaçlı yazılımlar hakkında endişelere yol açtı bile. Bu 'patlama' diye tanımladığımız şey elbette son çıkan sohbet robotları. OpenAI şirketi geçtiğimiz kasım ayında ChatGPT isimli sohbet robotunu tanıttı ve araç o kadar popüler oldu ki sadece bir haftada 1 milyon kullanıcıya ulaşarak rekor kırdı.

O halde şu soruyu sormanın vakti geldi de geçiyor: üretken yapay zeka, ortalama bir internet kullanıcısının mahremiyeti için ne tür sorunlar oluşturabilir? Uzmanlara göre cevap, büyük ölçüde bu sohbet robotlarının nasıl eğitildiği ve onlarla ne kadar etkileşim kurduğumuzla ilgili. Yapay zeka sohbet robotları, insan benzeri etkileşimleri çoğaltmak için, önemli bir kısmı Common Crawl gibi depolardan türetilen büyük miktarda veri üzerinde eğitilir. Common Crawl, open web'i tarayarak uzun yıllar petabaytlarca veri toplayan bir web arşividir.

Yapay zeka sohbet robotları bizim hakkımızda ne biliyor ve kiminle paylaşıyor? İşte ChatGPT, Bard ve benzerlerinin arkasındaki gerçek...

Kullanıcılara verdiği cevaplarla, şiir yazmasıyla, çeşitli metinler üretmesiyle hızlı bir şekilde popülerlik kazanan ChatGPT teknolojide yeni bir dönem başlattı

SORU SORACAĞIM DERKEN HASSAS VERİLERİ SIZDIRABİLİRSİNİZ

Engadget'in haberine göre, Stanford Üniversitesinin bilgisayar bilimi bölümünde doktora öğrencisi ve Microsoft Research'te eski yapay zeka asistanı olan Megha Srivastava, "Bu modeller, internetteki halka açık büyük veri kümeleri üzerinde eğitiliyor" dedi. Srivastava'ya göre ChatGPT ve Bard, Common Crawl'ın verilerinin 'filtrelenmiş' bir kısmını kullansa da, modelin devasa boyutu "herkesin verilere bakıp sterilize etmesini imkansız" hale getiriyor.

Bu durumda, ya kendi dikkatsizliğiniz yüzünden ya da bir üçüncü tarafın zayıf güvenlik uygulamaları nedeniyle hassas ve önemli kişisel verileriniz internet evreninin hiç bilmediğiniz bir köşesine sızabilir. Ortalama bir kullanıcının bu bilgileri elde etmesi zor olsa da, internet araçlarının eğitilmesi için kullanılıyor olabilir ve hatta bir sohbet robotunun başka insanların sorularına verdiği cevaplarda kullanılıyor olabilir.

Ayrıca bir kişinin gerçek iletişim bilgilerini paylaşan bir sohbet robotu da aslında teorik bir endişe değildir. Örneğin, Şubat ayında ChatGPT'nin verdiği yanlış bir cevap haberlere konu olmuştu. Çünkü bir kullanıcı ChatGPT'ye mesajlaşma uygulaması Signal üzerinden sohbet edip edemeyeceklerini sordu ve ChatGPT ise ona şu cevabı verdi: "Evet, benimle sohbet etmek için Signal'i de kullanabilirsiniz. OpenAI, kullanıcıların Signal aracılığıyla benimle etkileşime geçmesini sağlayan bir entegrasyon geliştirdi."

Sohbet robotu daha sonra ChatGPT'yi Signal ile entegre etme adımlarını açıkladı. Ancak bu sırada büyük bir skandala imza attı. Yapay zeka aracı, soruyu soran kişiye 'yanlışlıkla' ABD merkezli medya ağı Bloomberg'in köşe yazarı Dave Lee'nin numarasını verdi. Lee, ChatGPT'nin yaptığı bu hatayı Twitter hesabından "Birisi ChatGPT'ye Signal'i olup olmadığını sordu ve o 'benim numaramı' verdi" sözleriyle paylaştı. Ardından ikinci bir tweet atan Lee, OpenAI'in ChatGPT adına özür dilediğini açıkladı.

Dave Lee'nin tweeti:

https://twitter.com/DaveLeeBBG/status/1626288109339176962

Muhtemelen çoğu kişi yapay zeka aracıyla bu tür bir etkileşime girmez ancak bu öğrenme modellerinin erişebildiği bilgiler yine de dikkate alınmaya değer.

CHATGPT VERİ GİZLİLİĞİ İÇİN HANGİ ÖNLEMLERİ ALIYOR?

ChatGPT'nin arkasındaki şirket OpenAI, veri gizliliğini korumak için hangi önlemleri aldığını veya eğitim setlerine işlenmiş olabilecek kişisel olarak tanımlanabilir bilgileri nasıl ele aldığını soran Engadget'e cevap vermedi. Bunun üzerine, haber kaynağı soruyu bizzat ChatGPT'nin kendisine sormayı tercih etti.

Soru üzerine sistem, "kullanıcıların gizliliğini ve kişisel bilgilerini koruyan etik ve yasal standartları takip edecek şekilde programlandığını" belirtti. Ayrıca yapay zeka sohbet robotu, "kendisine sağlanmadığı sürece kişisel bilgilere erişimi olmadığını" ifade etti.

Google ise, konuşmalar sırasında kişisel olarak tanımlanabilir bilgilerin paylaşılmasını önlemek için Bard'a benzer programlamalar yaptığını bildirdi.

CHATGPT GELİŞTİRİCİLERİ APAÇIK UYARIYOR

OpenAI'nin gizlilik politikasında aktardığı üzere, ChatGPT, sistemleri iyileştirmek için konuşmaların yapay zeka eğitmenleri tarafından incelenebileceği konusunda kullanıcıları uyarıyor. Öte yandan, Google Bard'ın ise bağımsız bir gizlilik politikası yok, bunun yerine diğer Google ürünleri tarafından paylaşılan (ve son derece geniş olan) kapsamlı gizlilik politikasını kullanıyor.

Google, Bard ile yapılan görüşmelerin kullanıcının Google hesabına kaydedilmesi gerekmediğini ve kullanıcıların Google aracılığıyla görüşmeleri silebileceğini belirtiyor.

ChatGPT'ye dönecek olursak, OpenAI şirketinin SSS'deki (sıkça sorulan sayfalar) açıklamasına göre, 'konuşmayı temizle' butonu olmasına rağmen buna tıklamak verilerinizi gerçekten silmez ve OpenAI belirli istemleri silemez. Şirket, kullanıcıları hassas herhangi bir şeyi paylaşmaktan caydırsa da, görünüşe göre ChatGPT'ye sağlanan kişisel olarak tanımlayıcı bilgileri kaldırmanın tek yolu, şirketin tüm ilişkili verileri kalıcı olarak kaldıracağını belirttiği hesap silme işlemi.

Bu arada ChatGPT'de mart ayında gerçekleşen bir programlama hatasının ardından kullanıcıların sohbet geçmişleriyle ilgili bilgiler diğer kullanıcıların 'geçmiş'lerinde göründü ve hemen ardından şirket, ChatGPT'ye erişimi engelledi. Bu tür yapay zeka kaynaklı sohbet geçmişlerinin kötü niyetli kişiler için değerli hedefler haline gelip gelmeyeceği şu anda belli değil. Yapılması gereken tek şey ise, sohbet robotlarını kullanırken özel ve gizli bilgilerinizi paylaşmamanız.

(Haber Merkezi ve Engadget)

Yayın Tarihi | 08 Nisan, 2023 - 16:06

Bizi Takip Edin

YORUMLAR