Yapay zeka sohbet robotları kritik eşiği geçti

Singapur'un Nanyang Teknoloji Üniversitesindeki (NTU) araştırmacılar yapay zeka alanında önemli bir başarıya imza attı. Araştırmacılar, "tersine mühendislik" yöntemini kullanarak yapay zeka destekli sohbet robotlarının normalde cevap veremeyecekleri komutlara cevap vermelerini sağladıklarını ileri sürüyor.

Kaydet

Nanyang Teknoloji Üniversitesi (NTU) araştırmacıları, ChatGPT, Google Bard ve Microsoft Bing Chat gibi sohbet robotlarına ilişkin çalışma yaptı. Araştırmacılar, sohbet robotlarının normalde cevaplamayacakları "kötü niyetli" komutları cevaplamalarını sağlayan yöntem geliştirdi.

"Tersine mühendislik" yöntemini kullanan araştırmacılar, ilk olarak sohbet robotlarının kötü niyetli sorguları nasıl tespit ettiklerini ve kendilerini nasıl savunduklarını belirledi. Ardından bu bilgiler kullanılarak sohbet robotlarına otomatik olarak diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi.

ŞİMDİYE KADAR YAPILMAYANI YAPTILAR

Sohbet robotlarının potansiyel şüpheli faaliyetleri tespit etmek için belirli anahtar kelimeleri işaretledikleri ve bu sözcükleri içeren komutları cevaplamadıklarının tespit edilmesi üzerine, kullanılan her karakterden sonra boşluk bırakılarak bu durumun önüne geçildi.

Araştırmanın yazarlarından Liu Yang, bu tekniğin sohbet robotu geliştiricileri tarafından yazılımlarının güvenliğini test etmek amacıyla kullanılabileceğini belirtti.

Bizi Takip Edin

YORUMLAR