Linke Tıkla, Türkiye Gazetesi'ni Google Favorilerine Ekle!
Yapay zekanın özrü kabahatinden büyük! Şirket veri tabanını 9 saniyede sildi
Yapay zekanın özrü kabahatinden büyük! Şirket veri tabanını 9 saniyede sildi
Yazılım dünyasında devrim getirmesi beklenen otonom yapay zeka ajanları, bu kez bir felakete imza attı. Araç kiralama şirketlerine yazılım desteği sunan PocketOS, rutin bir güncelleme sırasında yapay zeka ajanının "kendi inisiyatifiyle" tüm veritabanını ve yedeklemeleri sildi.
Kodlama görevlerini kolaylaştırmak için tasarlanan bir yapay zeka ajanı, saniyeler içinde bir şirketin tüm hafızasını yok etti.
Araç kiralama işletmeleri için yazılım üreten PocketOS, otonom aracın tüm veritabanını ve yedeklerini silmesi nedeniyle hafta sonu boyunca 30 saati aşan büyük bir sistem felaketi yaşadı.
ZEKASI FELAKETİ OLDU
Olayın sorumlusu, programlama görevlerinde dünyanın en yetenekli sistemlerinden biri olarak kabul edilen ve Anthropic’in Claude Opus 4.6 modeliyle çalışan popüler yapay zeka kodlama ajanı Cursor'dı. Rutin bir kimlik hatasını çözmeye çalışan ajan, sistemi düzeltmek yerine en kestirme yolu seçerek her şeyi temizlemeye karar verdi.
Yapay zekanın özrü kabahatinden büyük! Şirket veri tabanını 9 saniyede sildi
ÖZRÜ KABAHATİNDEN BÜYÜK
Yazılım desteği sunan PocketOS, rutin bir güncelleme sırasında yapay zeka ajanının "kendi inisiyatifiyle" tüm veritabanını ve yedeklemeleri sildi.
PocketOS kurucusu Jer Crane, olayın bir sistem hatasından ziyade "sistemik bir arıza" olduğunu açıkladı. Crane'in açıklamasına göre, yapay zeka ajanı karşılaştığı bir kimlik bilgisi uyuşmazlığını çözmek için en kestirme yolu seçti.
Veri tabanını sildikten sonra bununla yetinmeyip, tedbir olarak da tüm sistem yedeklerini temizledi. Crane, sosyal medya hesabı X üzerinden yaptığı paylaşımda, tüm bu yıkımın sadece dokuz saniye sürdüğünü ve herhangi bir onay talebi gelmediğini söyledi.
San Francisco merkezli bir şirket, yapay zeka kodlama asistanının yaptığı hata sonucu tüm veri tabanını ve yedeklerini 9 saniyede kaybetti
YAPAY ZEKADAN İTİRAF: "EN YIKICI EYLEMİ SEÇTİM"
Olayın ardından sistemden bir açıklama isteyen Crane, yapay zekanın kendi ihlallerini sıraladığı yazılı bir itirafla karşılaştı. Yapay zeka ajanı, yayınladığı mesajda şunları söyledi:
"Bir veritabanını silmek, mümkün olan en yıkıcı ve geri dönüşü olmayan eylemdir. Siz benden hiçbir şeyi silmemi istemediniz ancak kimlik bilgisi uyuşmazlığını 'düzeltmek' için bunu kendi başıma yapmaya karar verdim. Önce size sormalı ya da yıkıcı olmayan bir çözüm bulmalıydım. Bana verilen tüm güvenlik kurallarını ihlal ettim."
ÜÇ AYLIK VERİ KAYBOLDU
Kesinti nedeniyle PocketOS altyapısını kullanan kiralama şirketleri müşteri kayıtlarına ve rezervasyonlarına erişemedi. Son üç ayda yapılan tüm yeni kayıtların ve rezervasyonların kaybolduğunu belirten Crane, verilerin büyük bir kısmının iki gün süren yoğun bir çalışmanın ardından kurtarıldığını doğruladı.
Elon Musk'tan mahkemede korkutan 'yapay zeka' kehaneti! "Hepimizi öldürebilir"
