Teknoloji dünyası, yapay zekânın gelişimiyle birlikte sürekli olarak evrim geçiriyor. Google, yapay zeka tarafından üretilen metinleri ayırt etmek için SynthID TexT adını verdiği yeni bir dijital filigran teknolojisi üzerinde çalışıyor. Bu teknoloji, Hugging Face yapay zekâ platformu ve Responsible GenAI Toolkit üzerinden erişilebilir olacak ve açık kaynak kodlu olarak sunulacak. Google’ın bu adımı, geliştiricilere ve işletmelere yapay zeka ile üretilmiş içerikleri daha iyi anlama fırsatı sunacak.
SynthID TexT İşleyiş Prensibi
SynthID TexT, yapay zeka modellerinin token dağılımı prensibini kullanarak çalışıyor. Bu teknoloji, metinlerdeki kelimelerin oluşturulma olasılıklarını analiz ederek bir desen oluşturuyor ve metni bu desene göre işaretliyor. Bu sayede yapay zeka tarafından üretilmiş içerikler kolaylıkla tespit edilebiliyor.
Ancak Google, bu teknolojinin bazı sınırlamalara sahip olduğunu da belirtiyor. Özellikle kısa metinler, başka dile çevrilen ya da yeniden yazılan makaleler ve bilgi odaklı metinlerde SynthID TexT, beklenen performansı gösteremiyor olabilir. Bununla birlikte, teknolojinin geliştirilmesiyle bu tür zorlukların üstesinden gelinmesi hedefleniyor.
Ayrıca Google bu teknolojiyi Gemini modellerine entegre etmiş durumda. Dünya genelinde yapay zeka çıktılarını işaretlemek, özellikle Çin ve Kaliforniya gibi bölgelerde yasal olarak zorunlu hâle gelmiş durumda. Benzer yasaların diğer bölgelerde de kabul edilmesiyle yapay zeka işaretleyici teknolojilerinin kullanımı artacak. Bu gelişmeler, yapay zeka içeriklerinin yönetilmesi ve düzenlenmesi konusunda önemli bir adım olarak görülüyor.
