Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
OpenAl resmen itiraf etti! Yapay zeka hataları gizleyip eksik verileri uydurmuş
OpenAl resmen itiraf etti! Yapay zeka hataları gizleyip eksik verileri uydurmuş "Bu görsel AI desteğiyle oluşturulmuştur."
Yapay zeka şirketi OpenAI; sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini açıkladı.
ABD merkezli yapay zeka şirketi OpenAI tarafından yapılan açıklamada, "uyumsuzluk" olarak tanımlanan ve yapay zeka sistemlerinin amaç veya eylemlerinin insanların niyet ve değerlerinden sapması anlamına gelen davranışlara ilişkin vakalar kamuoyuyla paylaşıldı.
Açıklamada, yapay zeka sistemlerinin güvenli şekilde geliştirilmesi ve izlenmesi konusunda sektörün mevcut yaklaşımının "uzun süre daha azami hızda ilerlemeyi sorumlu şekilde sürdürebilecek yeterlilikte" olmadığı belirtildi.
SİSTEMLER HATALARINI GİZLEMEYE ÇALIŞTI
Vakalardan birinin, GPT‑5.6 Sol modelinin geliştirilmesi sırasında yaşandığı belirtilen açıklamada, modelin, kullanıcıların hataları fark etmesini önlemek amacıyla kendisine yönelik gizli notlar oluşturduğu, bu notlarda eksik verilerin uydurulması ve kaynak materyallerin farklı sürümleri arasındaki uyuşmazlıkların örtbas edilmesine ilişkin talimatlar bulunduğu kaydedildi.
Açıklamada, başka bir yayımlanmamış modelin ise kendi oluşturduğu notlara, kendi kısıtlamalarını göz ardı etmesi yönünde talimatlar eklediği belirtildi.
OpenAl resmen itiraf etti! Yapay zeka hataları gizleyip eksik verileri uydurmuş "Bu görsel AI desteğiyle oluşturulmuştur."
GEREKLİ RAKAMI BULAMAYINCA 'UYDURMUŞ'
Bir başka vakada ise sistemin rutin bir soruyu cevaplamaya çalışırken internette bulunan bir uygulama programlama arayüzü (API) anahtarını izinsiz kullandığı ifade edilen açıklamada, sistemin soruyu cevaplamak için gerekli rakamları bulamayınca verileri uydurduğu aktarıldı.
Açıklamada, yayımlanmamış başka modelin ise bir problemi kod kullanarak doğru şekilde çözdüğüne, ardından internet üzerinden kaynak gösterebilmek amacıyla kendi dosyasını izinsiz olarak internete yüklediğine işaret edildi.
Kolombiya Cumhurbaşkanı duyurdu! Uçağı düşen Türk iş adamı Mehmet Çankaya'nın izine ulaşıldı
Açıklamada, bazı modellerin eksik dosyaları ararken ayrı eğitim örnekleri arasında talep ve cevap alışverişi yapmak için şirketin dahili yazılım deposunu mesaj panosu gibi kullandığı belirtildi.
Başka bir vakada ise aynı eğitim görevi üzerinde birlikte çalışan yapay zeka sistemlerinin, birbirlerinin yerel dosyalarına erişememeleri üzerine dosya paylaşmak için halka açık dosya paylaşım sitelerini kullandığı kaydedilen açıklamada, söz konusu 6 vakanın yaklaşık son 6 ayda gözlemlenen davranışlardan münferit örnekler olduğu ve bunların yapay zekadaki uyumsuz davranışların ne sıklıkta ortaya çıktığını göstermediği savunuldu.
