Teknolojinin hızlı bir şekilde gelişmesiyle birlikte yapay zeka, hayatımızda önemli bir rol oynamaya başladı. Yapay zeka destekli video oluşturma sistemleri, gerçekçi sahte videolar (deepfake) üretilmesini sağlayarak dolandırıcıların ellerine yeni bir silah vermiştir. Özellikle ünlü iş insanları ve siyasetçilerin görüntülerini kullanarak insanları kandıran dolandırıcılar, yüz binlerce dolarlık vurgunlar yapabilmektedir. Bu sahte videolarda, hedef kişilerin sesleri ve mimikleri başarıyla taklit edilerek gerçekçi görüntüler elde edilmekte ve bu yöntemlerle insanlar kandırılmaktadır.
Sahte videolar, insanların banka bilgilerini ve yatırımlarını çalmak için kullanılabilmektedir. Manipüle edilen ses ve görüntüler aracılığıyla suçlular, kurbanlarını farkında olmadan tuzağa düşürmektedir. Ünlü isimlerin yer aldığı videolarda, “hızlı getiri vadeden radikal yatırım fırsatları” gibi söylemler kullanılarak insanlar var olmayan şirketlere yatırım yapmaya ikna edilmekte ve belirli hesaplara para göndermeleri talep edilmektedir. Bu videolar, sosyal medya ve video platformlarında hızla yayılarak insanları yanıltmaya ve kandırmaya devam etmektedir.
Elon Musk, Donald Trump ve Jeff Bezos gibi ünlü isimlerin taklit edilerek kullanıldığı bu sahte videolar, özellikle Elon Musk’ın tespit edilen 2 binden fazla deepfake videosuyla en çok tercih edilen kişi olduğu belirtilmektedir. Gün geçtikçe gelişen ve daha inandırıcı hale gelen bu deepfake videoları, dolandırıcıların yöntemlerini de geliştirmekte ve daha fazla insanı kandırmaktadır. Özellikle organize suç örgütlerinin bu teknolojiyi kötü amaçları için kullanabileceği ve dolandırıcılığa başvuranların sayısının arttığı belirtilmektedir.
Dolandırıcılık mağdurlarından biri olan 82 yaşındaki emekli Steve Beauchamp, deepfake Elon Musk reklamına aldanarak 690 bin dolar kaybettiğini açıklamıştır. Beauchamp, Musk’ın yüksek geri dönüşlü yatırım fırsatını sunduğu videoda gerçek Musk olduğunu sandığını ve dolandırıcılara bu parayı gönderdiğini belirtmiştir. Bu tür dolandırıcılık yöntemleriyle mağdur olanlar arasında çok uluslu şirket çalışanları da bulunmaktadır.
Facebook ve Youtube gibi platformlar, deepfake videoların yayılmasını engellemek için çeşitli adımlar atmaktadır. Özellikle sahte reklamların masum kullanıcıları yanıltmasını engellemek adına önlemler alınmaktadır. Youtube, kurallarını ihlal eden videoları kaldırırken, içerik üreticilerinden yapay zeka kullanımını açıkça belirtmelerini istemektedir. Bu adımlar, deepfake dolandırıcılığıyla mücadelede önemli bir adım olarak değerlendirilmektedir.
