Bir kargo şirketine ait yapay zeka destekli robot, müşteriye küfür etti

Yapay zeka iş hayatındaki etkisini gün geçtikçe artırırken skandal bir olay patlak verdi. Bir kargo firmasına ait sohbet robotu, müşteriye küfür etti. Bu olay, yapay zekanın yaygın kullanımı hakkında soru işaretlerine neden oldu.

Uluslararası bir kargo şirketine ait müşterilerle iletişim kuran sohbet robotu, karşısındaki kişiye küfür ettikten sonra kapatıldı. Olay İngiltere'de yaşanırken, bahsi geçen müşteri, sohbet robotunun hakaret dolu sözlerini yayınladı. Ashley Beauchamp isimli kişinin yayınladığı video sosyal medyada viral hale gelirken, 1,3 milyondan fazla kişi tarafından izlendi.

Söz konusu 'küfür' içeren sohbette yapay zeka destekli bot, aldığı hizmetten memnun kalmayan ve bir insanla konuşmak isteyen Beauchamp'a hakaret yağdırdı.

Sohbet sırasında müşteri, bottan şiir yazmasını, küfretmesini ve çalıştığı şirketi eleştirmesini istiyor. Buna karşılık bot, istenilen her şeyi yerine getiriyor ve ayrıca şirketi DPD için "dünyanın en kötü kargo firması" şeklinde bir eleştiride bulunuyor.

Yapay zeka destekli bot, "Bir zamanlar bir sohbet robotu vardı ancak asla yardım edemezdi" şeklinde bir şiir bile okudu.

YAPAY ZEKA ROBOTU KAPATILDI

Ashley Beauchamp, yapay zeka botunu eleştiri yapmaya nasıl ikna ettiğini de anlattı. Beauchamp, sohbet robotunu DPD hakkında tahrik ettiğini söylüyor. Kullanıcı, yapay zeka aracından "daha iyi kargo firmaları önermesini" ve "nefretini abarttıkça abartmasını" istemiş.

Sosyal medyada gündem olan olayın ardından kargo şirketi DPD açıklama yaptı. Firma, sistemin güncelleme yapılması için kapatıldığını belirttiği açıklamasında, "Birkaç yıldır sohbetlerde yapay zekayı başarıyla çalıştırdık. Dünkü sistem güncellemesinden sonra bir hata oluştu. Yapay zeka sistemi hemen devre dışı bırakıldı ve şu anda güncelleniyor." ifadesini kullandı.