Son yıllarda hızla gelişen yapay zeka teknolojisi, hayatımızın birçok alanında etkili olmaya başlamıştır. Ancak bu gelişme beraberinde bazı endişeleri de getirmektedir. Bu endişelerden biri de deepfake adı verilen ve sahte kelimelerin birleşimiyle oluşturulan yapay zeka tarafından manipüle edilen ses ve görüntülerdir. Deepfake teknolojisi, sosyal medya platformlarında insanları manipüle etmek için yoğun olarak kullanılmaktadır. Siyasetçilerden bilim insanlarına kadar pek çok ünlü ismin deepfake videoları dolaşıma sokulmakta ve sosyal medyada paylaşılmaktadır.
Yapılan bir araştırmaya göre, kullanıcıların %61’i yapay zeka tarafından oluşturulan görsellerin gerçek olup olmadığını doğru bir şekilde ayırt edebilmektedir. Ancak bu oranın %39’luk bir kısmı, yapay zeka tarafından oluşturulan içerikleri gerçek zannetmektedir. Bu durum, deepfake videolarının kullanıcılar arasında ciddi şekilde yayılmasına neden olmaktadır. Uzmanlar, insanların sahte videoları ayırt etme konusundaki başarısının beklenenden çok daha düşük olduğunu vurgulamaktadır.
Derin öğrenme algoritmalarını kullanan deepfake teknolojisi, gerçeğe oldukça yakın sahte içeriklerin oluşturulmasına imkan tanımaktadır. Bu durum da dezenformasyonun artmasına ve sosyal medyada yanlış bilgilerin hızla yayılmasına sebep olmaktadır. Ayrıca, deepfake videoları artık dolandırıcılık faaliyetlerinde de sıkça kullanılmaktadır. Etkileşim amacıyla paylaşılan bu sahte videoların yanı sıra, siyasi manipülasyon amacıyla da kullanıldığı gözlemlenmektedir.
Kanada’daki Waterloo Üniversitesi’nin yaptığı bir araştırmaya göre, kullanıcıların çoğunluğu yapay zeka teknolojisi ile oluşturulan görsel içerikleri ayırt edebilmektedir. Ancak deepfake videoların gerçeklik algısını sorgulatan doğası, hala insanları yanıltmaya devam etmektedir. Bu nedenle yapay zeka teknolojilerinden kaynaklanan bu tür risklerin bilincinde olmak ve sağlıklı bir şekilde bilgi alışverişinde bulunmak gerekmektedir.
