Google, hata bulana büyük ödül vereceği programı genişletti

Teknoloji devi Google, hata ödül programını 'üretken yapay zeka' saldırılarını da kapsayacak şekilde genişlettiğini duyurdu. İşte büyük ödül için istenenler...

Üretken yapay zekanın insanlara ve sistemlere zarar verebileceğine yönelik endişeler artıyor. Amerika Birleşik Devletleri merkezli teknoloji firması Google da yapay zekanın yol açabileceği tehlikelerin farkında. Google, Güvenlik Açığı Ödül Programı'nın (VRP) yapay zekaya özgü saldırıları kapsayacak şekilde genişletildiğini açıkladı.

Şirket, hangi hata keşiflerinin ödüle layık görüleceğini ve hangilerinin kapsam dışı olduğunu ayrıntılarıyla açıklayan yönergeyi güncelledi. Örneğin, özel, hassas bilgileri sızdıran eğitim verilerinin çıkarılmasının keşfedilmesi program kapsamında ödüllendirelecek konulardan. Ancak yalnızca halka açık, hassas olmayan verileri gösteriyorsa ödül verilmez.

Geçtiğimiz yıl Google, güvenlik araştırmacılarına hata keşifleri için toplamda 12 milyon dolar verdi.

TEKNOLOJİ DEVLERİ YAPAY ZEKAYI DİZGİNLEMEYE ÇALIŞACAK

Google, yapay zekanın, model manipülasyonu ve haksız önyargı gibi diğer teknolojilerinden farklı güvenlik sorunları sunduğunu ve bunu yansıtmak için yeni rehberlik gerektirdiğini açıkladı. Şirket yaptığı açıklamada, "VRP'nin genişletilmesinin yapay zeka emniyeti ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz" dedi.

Açıklamanın devamında ise firma, "Aynı zamanda yapay zeka tedarik zinciri güvenliği hakkındaki bilgilerin evrensel olarak keşfedilebilir ve doğrulanabilir olmasını sağlamak için açık kaynak güvenlik çalışmalarımızı da genişletiyoruz." diye ekledi.

Aralarında Google'ın da bulunduğu yapay zeka şirketleri, bu yılın başlarında Beyaz Saray'da bir araya gelerek yapay zekanın zayıf noktalarını keşfetme ve farkındalık sağlamak için söz verdiler.