Google, müstehcen içerikli uygulamaları yasaklamak istiyor! Yeni kılavuz yayınlandı

Google geçtiğimiz günlerde Google play üzerinden yapay zeka uygulamaları geliştiren geliştiriciler için yeni bir kılavuz yayınladı. Yayınlanan kılavuzda müstehcen içeriklerin oluşturulması engellenmek isteniyor.

Google'ın sahip olduğu Android işletim sisteminde bulunan Google Play Store'da yapay zeka destekli fotoğraf oluşturma uygulamaları oldukça popüler durumda. Fakat fotoğraf oluşturma uygulamalarının güvenlik politikaları delinerek müstehcen içerikli fotoğraflar oluşturulabiliyor.

Yapay zeka destekli uygulamaları kullanan kullanıcılar bu durumdan uzun zamandır şikayetçilerdi. Basit bir fotoğraf oluşturmak isterken bile sapık fotoğrafları yapay zeka oluşturabiliyordu. Buna ek olarak Google, geliştiricilerin kullanıcı güvenliği ve gizliliğine saygı duyduklarından emin olmak için yapay zeka araçlarını ve modellerini “titizlikle test etmeleri” gerektiğini söylüyor.

MÜSTEHCEN REKLAMLAR NASIL KAPATILIR?

Google'ın yayınladığı yeni kılavuzda, sosyal medyada ya da arama motorlarında yayınladığı reklamlar artık hırsızlık ya da müstehcen içerikli reklamlar yayınlamamaları konusunda baskı yapıyor. Eğer reklam metni ya da reklam fotoğrafları uygulamanın böyle bir müstehcen içerikleri yapabileceğini ima ediyorsa, uygulama böyle bir durumu gerçekten yapabilse ya da yapmasa Google Play'den yasaklanabilir.

404 Media tarafından Nisan ayında yayınlanan bir raporda, Instagram'ın yapay zeka kullanarak deepfake cinsel içerikli fotoğraflar ürettiğini iddia eden uygulamaların reklamlarına ev sahipliği yaptığı tespit edilmişti. Bir uygulama Kim Kardashian'ın bir fotoğrafını ve “Herhangi bir kızı ücretsiz soyun” sloganını kullanarak kendini pazarlıyordu.

Apple ve Google duruma hızlıca müdahale ederek uygulamayı mağazalarından kaldırdı ancak farklı uygulama geliştiricileri fark edilmeden bu pazarlama yöntemini kullanıyor.

OKULLARDA TACİZ FOTOĞRAFLARI ÜRETİLİYOR

ABD'deki okullar, diğer uygunsuz yapay zeka içeriklerinin yanı sıra, öğrencilerin zorbalık ve taciz amacıyla diğer öğrencilerin (ve bazen de öğretmenlerin) yapay zeka ile müstehcen fotoğraflarını etrafa yaymalarıyla ilgili sorunlar bildiriyor.

Geçtiğimiz ay, bir okul müdürünün ırkçı bir yapay zeka fotoğrafı Amerika'da bir tutuklamaya yol açtı. Daha da kötüsü, bu sorun bazı durumlarda ortaokullardaki öğrencileri bile etkiliyor.

GOOGLE MÜSTEHCEN FOTOĞRAFLARI ENGELLEYEBİLİR Mİ?

Google, politikalarının kullanıcılar için uygunsuz veya zararlı olabilecek yapay zeka tarafından oluşturulan içeriklere sahip uygulamaları Google Play'den uzak tutmaya yardımcı olacağını söylüyor.

Google Play'de uygulama onayı için gereksinimlerini kontrol edebileceğiniz bir yer olarak mevcut yapay zeka tarafından oluşturulan içerik politikasını detaylı bir şekilde okunulmasını istiyor.

Şirket, yapay zeka uygulamalarının herhangi bir kısıtlanmış içeriğin oluşturulmasına izin veremeyeceğini ve ayrıca kullanıcılara saldırgan ve uygunsuz içeriği işaretlemenin yanı sıra bu geri bildirimi izlemenin ve önceliklendirmenin bir yolunu sunması gerektiğini söylüyor.

Google'ın belirttiğine göre bu son husus, kullanıcıların etkileşimlerinin içeriği ve deneyimi şekillendirdiği uygulamalarda, örneğin popüler modellerin daha yüksek veya daha belirgin bir şekilde sıralandığı uygulamalarda özellikle önemli.

Buna ek olarak, geliştiriciler uygulamalarını yapay zeka özelliklerini zararlı ve saldırgan içerik oluşturmak için manipüle edebilecek istemlere karşı korumaktan sorumlular.

Google, geliştiricilerin geri bildirim almak üzere uygulamalarının ilk sürümlerini kullanıcılarla paylaşmak için kapalı test özelliğini kullanabileceklerini söylüyor.

Şirket, geliştiricilerin yalnızca piyasaya sürmeden önce test etmelerini değil, aynı zamanda bu testleri de belgelemelerini şiddetle tavsiye ediyor, çünkü Google gelecekte gözden geçirmeyi isteyebilir.

Şirket ayrıca, yapay zeka uygulamaları geliştiren geliştiricileri desteklemeyi amaçlayan People + AI Guidebook gibi başka kaynaklar ve en iyi uygulamaları da yayınlıyor.