Google, yapay zeka tarafından üretilen sahte görseller ve videolara karşı mücadele başlatıyor. Şirket, arama motoru algoritmasında önemli bir güncelleme yapma hazırlığında. Bu güncellemeyle birlikte, yanıltıcı yapay zeka içeriklerinin arama sıralamalarını etkilemesi planlanıyor ve deepfake teknolojisiyle üretilen içeriklerin yayılması engellenmeye çalışılacak.
Yapay zeka, hayatımıza hızla girerken, sahte yapay zeka görselleri ve videolar büyük bir sorun haline gelmiş durumda. Özellikle, deepfake teknolojisi kullanılarak gerçekçi sahte görüntüler oluşturulabiliyor. Birçok yapay zeka aracı, ünlülerin sahte görüntülerinin oluşturulmasını önlemeye çalışsa da, örneğin Taylor Swift’in pornografik deepfake fotoğrafları bu araçlar tarafından engellenememişti.
Daha önce Papa ve eski ABD Başkanı Donald Trump’ın sahte görselleri yapay zeka tarafından üretilmişti. Ancak mevcut yapay zeka araçları, özellikle ünlülerin sahte görüntülerinin oluşturulmasını engellemeye yönelik olarak geliştirilmeye devam ediyor. Google, sahte yapay zeka görselleri ve videoların yayılmasını azaltmak amacıyla algoritmasını güncelleyerek, bu tür içerikleri arama sonuçlarında alt sıralara düşürecek.
Güncellemeyle, yapay zeka ile üretilen deepfake görsellerinin ve videolarının paylaşımını yapan sitelerin arama sıralamalarının düşmesi bekleniyor. Google’ın, bu düzenlemeyle sadece tanınmış kişilerin sahte yapay zeka görüntülerine mi yoksa tüm deepfake içeriklerine mi odaklanacağı ise belirsizliğini koruyor. Ancak, Google’ın bu adımla sahte içeriklerin dolaşımını yüzde 70 oranında azaltmayı hedeflediği belirtiliyor.
Sosyal medya platformları da, Taylor Swift olayı sonrası deepfake içeriklerini daha sıkı bir şekilde filtrelemeye başlamış durumda. Ancak bu filtreler genellikle ünlü kişilerin sahte görüntülerini hedef alıyor.
Yapay zeka video üretim araçları şu anda emekleme aşamasında olsa da, gelecekte bu tür sorunlara yol açabilecek potansiyelleri bulunuyor. Mevcut uygulamalar ise sahte videolar üretme konusunda ciddi bir risk teşkil ediyor. Google ve sosyal medya platformlarının bu tür sahte içerikleri etkili bir şekilde nasıl engelleyeceği, dikkatle izlenmesi gereken bir konu olarak öne çıkıyor.