Yapay zeka teknolojilerinin gelişimiyle birlikte, birçok yeni olasılık hayatımıza girmiş olsa da beraberinde bazı sorunları da beraberinde getirmiştir. Dil modelleri ve transkripsiyon araçları, özellikle OpenAI tarafından geliştirilen Whisper gibi, bazen gerçek olmayan bilgileri gerçekmiş gibi sunabiliyor. Bu durum, özellikle akademik kaynaklar ve transkripsiyonlar üzerinde ciddi problemlere neden olabiliyor. Whisper’ın konuşmaları yazıya dökme sürecinde araya eklenen ilgisiz ve yanlış bilgiler, ırkçı yorumlar veya yanıltıcı tıbbi bilgiler gibi hassas konularda büyük riskler taşıyor.
Transkripsiyon Hizmetlerinde Halüsinasyon Problemi
Michigan Üniversitesi’nden yapılan bir araştırma, transkripsiyon hizmetlerindeki metinlerin büyük bir kısmında bu tür ‘halüsinasyonlar’ olduğunu ortaya koydu. Araştırmada inceledikleri metinlerin yüzde 80’inde bu tür sorunlarla karşılaşıldı. Ayrıca bir makine öğrenimi mühendisinin yaptığı başka bir çalışmada uzun süreli analizler sonucunda metinlerin yarısında benzer problemler tespit edildi.
OpenAI, bu sorunların farkında olduğunu ve modellerin doğruluğunu artırmak için çalışmalar yaptığını belirtiyor. Ayrıca Whisper’ın yüksek risk taşıyan karar verme süreçlerinde kullanılmaması gerektiğine dair politikalar geliştirdiklerini ve araştırmacılara bu sorunları dile getirdikleri için teşekkür ettiklerini açıkladı. Yapay zekanın bu tür sorunları nasıl üstesinden gelebileceği ve teknolojinin daha güvenli bir şekilde nasıl entegre edilebileceği, önümüzdeki dönemde daha fazla dikkat çeken konular arasında yer alacak.