Gelişen teknoloji, yapay zeka alanında büyük ilerlemeleri beraberinde getirirken, bu durum bazı sorunları da beraberinde getiriyor. Son yıllarda deepfake içeriklerin artması ve daha gerçekçi hale gelmesi, özellikle sosyal medya platformlarında ciddi bir sorun haline geldi. Bu durumu yakından takip eden Meta’nın Gözetim Kurulu, son dönemde iki önemli vakayı tespit etti ve gerekli müdahaleyi yaptı.
Instagram ve Facebook’ta Deepfake İçerikler Tespit Edildi
Gözetim Kurulu’nun tespit ettiği bu iki vaka, biri Instagram’da diğeri ise Facebook’ta olmak üzere iki farklı platformda yaşandı. Instagram’da paylaşılan görsel, Hindistan’da tanınmış bir kadına benzetilmiş ve bu içeriği paylaşan hesabın, sadece Hintli kadınların yapay zeka tarafından oluşturulmuş görsellerini paylaştığı belirlendi. Bu içerik iki kez şikayet edilmesine rağmen zamanında müdahale edilmediği için yayında kaldı. Ancak sonunda, “Zorbalık ve Taciz Topluluk Standardı”nı ihlal ettiği gerekçesiyle kaldırıldı.
Facebook’ta paylaşılan diğer görselde ise, bir adamın çıplak bir kadını okşadığı bir deepfake içerik bulundu. Bu içeriğin, Amerika’da tanınmış bir kadına benzetildiği belirlendi. Bu içerik de “Zorbalık ve Taciz” ilkesini ihlalden dolayı kaldırıldı. İçeriği paylaşan kullanıcının yaptığı itiraz reddedildi.
Meta’nın İlkeleri ve Yaptırım Uygulamaları Değerlendirilecek
Meta’nın Gözetim Kurulu, bu iki vakayı değerlendirme için kullanacak ve Meta’nın ilkelerinin ve yaptırım uygulamalarının müstehcen görselleri ele almada ne derece başarılı olduğunu belirlemeye çalışacak. Daha sonra bu değerlendirmeyi Meta’ya sunacak. Ancak bu sunum, yaptırım şeklinde değil, tavsiye niteliğinde olacak.
Yapay zeka teknolojisinin getirdiği bu tür sorunlarla nasıl başa çıkılacağı ve platformların ne tür önlemler alacağı, önümüzdeki dönemde teknoloji dünyasının gündemini belirleyecek gibi görünüyor.