OpenAI yeni geliştirdiği özellik sayesinde yapay zeka ile oluşturulan görselleri tespit edebilecek!

Yapay zeka ile görüntü oluşturma programları artık o kadar gelişti ki gerçek ile ayırt edilemez hale geldi. Bu durum oluşturulan fotoğrafların kötüye kullanımına ilişkin endişeleri artırmakta.

OpenAI, fotoğrafların kaynakları hakkında şeffaflığı korumak ve özgünlüğe saygı göstermek amacıyla DALL-E 3 yapay zekası tarafından üretilen görüntüler için filigranlar eklediğini açıklamıştı.

Şirket şimdi, yapay zeka ile oluşturulan görüntüleri şirketin metni tabanlı üretim modeli DALL-E tarafından ayırt edebileceği yeni bir araç geliştiriyor.

FOTOĞRAFLAR ARTIK TANINACAK

Resmi OpenAI blogunda yapılan duyuruda, yapay zeka tarafından üretilen içeriği tespit etmek için yeni yöntemler üzerinde çalıştıkları belirtildi. Şirkete göre amaç, araştırmacıların içerik özgünlüğünü incelemelerine yardımcı olmak ve dijital içerik sertifikasyonu için yaygın olarak kullanılan bir standart olan Coalition for Content Provenance and Authenticity Steering Committee'ye (C2PA) katılmak. Bu sayede içerik oluşturucular, içeriğin gerçek kaynağını doğrulamak için içeriklerini etiketleyebilecek ve sertifikalandırabilecekler.

OpenAI, C2PA meta verilerini şirketin video üretim modeli Sora için de entegre edeceklerini söylüyor. Bilmeyenler için, Sora da muhtemelen DALL-E 3 gibi sadece ücretli abonelerin erişebileceği premium bir metinden video oluşturma aracı olacak. Daha önce yayınlanan bir rapora göre Sora 2024 yılı içerisinde halka açılacak.

YENİ BİR TESPİT ARACI GELİŞTİRİLİYOR

OpenAI, DALL-E 3 tarafından oluşturulan görüntüleri tespit etmek için yapay zeka kullanan yeni bir araç üzerinde de çalışıyor. Bir görüntünün araç tarafından oluşturulma olasılığını tahmin ediyor. Şirkete göre, görüntü sıkıştırıldıktan, doygunluk ayarlandıktan ve hatta görüntü kırpıldıktan sonra da tespit edilebiliyor. Ayrıca bu araçlar, içeriğin kaynağına ilişkin sinyalleri ortadan kaldırma girişimlerine karşı daha dirençli olmayı amaçlıyor.

Tespit aracı, DALL-E ile oluşturulan görüntüler için %98'lik bir doğruluk oranına ulaşıyor ve daha da önemlisi, yapay zeka tarafından oluşturulmamış görüntüleri yapay zeka tarafından oluşturulmuş olarak işaretlemiyor.

Şirket, yeni görüntü tespit aracına erişim için başvuruları ilk test grubuna açmış durumda. Araştırma laboratuvarları ve araştırma odaklı kar amacı gütmeyen gazetecilik kuruluşlarını içeren bu grup, Araştırmacı Erişim Programı aracılığıyla geri bildirim toplamayı hedefliyor.