Yükselen Tehdit Deepfake ve Dolandırıcılık Odağındaki Kullanımına Karşı Alınabilecek Başlıca Önlemler 

Gerçek görüntünün tamamen sahte başka bir görüntüyle entegre edilmesini esas alan deepfake teknolojisi, büyük endişelere neden olsa da teknoloji firmaları tarafından “kucaklanan” bir yenilik haline geldi.

Facebook ve birçok sosyal medya ağı deepfake içeriklerini engelleyecek önlemler alınacağını açıklarken, Snapchat ve TikTok bu alanda içerik geliştirmeye odaklandı.

Her ikisi de Facebook’un rakibi olan Snapchat ve TikTok‘un deepfake teknolojisine yönelmesi endişe verici bir gelişme olarak görülüyor.

Snapchat, San Francisco merkezli AI Factory firmasını 166 milyon karşılığında bünyesine katmıştı, amaç ise kullanıcılarının 3D modellerinin oluşturulması ve “Cameo” adı verilen içeriğin üzerine eklenmesi. Snapchat Cameo çizgi roman konseptine yakın olsa da, deepfake teknolojisi ile yeni ve endişe duyulan algının oluşmasına destek sağlayabilir.

Mühendisler ve hukukçuların endişe duyduğu “gerçek olmayan, var olmamış ya da yaşanmamış olay ve insanları doğrulama” algısı, geniş çaplı kullanıldığında, deepfake video, görüntü ve ses taklitleri ile sahte bilginin en güçlü ve en fazla endişe duyulan kozu haline dönüşebilir.

TikTok’un sahibi ByteDance’in de kullanıcılarına yeni video içerikleri sunmak için deepfake kullanacağı öğrenilmişti. Snapchat Cameo’dan daha etkili olacak söz konusu içerik, önceden çekilmiş videolara kullanıcıların kendi yüzlerini entegre etmelerini temel alıyor. Kullanıcılar yüzlerini çeşitli açılardan taradıktan sonra seçtikleri kendilerini herhangi bir videoya ekleyebilecekler. TikTok, algı sorununun önüne geçilmesi için her videoya filigran ekleyecek. Yine de ByteDance’in toplayacağı yüksek miktardaki biyometrik veri, şimdiden endişe verici bir unsur.

Yükselen tehdit: Deepfake

Snapchat ve TikTok eğlence içeriğini güçlendirmek için deepfake’e yatırım yaparken, 2016 seçimlerinde Cambridgre Analytica skandalı ile sarsılan Facebook, yeni bir skandala maruz kalmamak için yeni önlemler alacağını açıkladı. Bu önlemler, haliyle en modern tehdit olan deepfake üzerine odaklanıyor.

Sosyal medya ağı, 2020 seçimleri öncesinde deepfake videolar dahil birçok manipüle edilmiş ve sentetik medya içeriğinin yasaklanacağını duyurdu.

Şirket, “insanları yanıltmak için” düzenlenmiş ve manipüle edilmiş medya içeriğinin yasaklanacağını açıkça belirtti. Bu politika, YouTube‘un “ciddi zarar verebilecek” manipüle edilmiş içeriği yasaklayan “yanıltıcı uygulamalar politikası” ile uyuşuyor.

Deepfake ve benzeri teknolojilere karşı alınan önlemler bunlarla da sınırlı değil. Twitter Kasım 2019’da sentezlenmiş videolara karşı yeni bir politika oluşturacağını açıklamış ve alınan binlerce geri bildirim üzerinden kapsamlı çalışmalar yapıldığını belirtmişti. Kullanıcıların kendi özgür projelerini daha çok öne çıkarabildiği Pinterest ise “yanlış bilgilendirme ve sahte bilginin platformda kesinlikle yer edinemeyeceğini ve manipüle edilmiş verinin tespit edildiği anda çıkarılacağını” duyurmuştu. Özetle deepfake bazı teknoloji şirketleri için önemli ölçüde yatırım, diğer birçoğu içinse kaçınılmak istenen tehdit oluşturucu bir olgu durumunda.

Deepfake düşük çözünürlüklü ve fark edilmesi çok zor olmayan ilk örnekleri ile belirdiğinde, politik figürlerden şirket yöneticilerine, borsalardan siyasi partilere kadar her türlü hedefe karşı kullanılabilecek bir şantaj aracı olarak görüldü. Birkaç yıl önce sadece ileri teknoloji altyapısına sahip coğrafyalarla sınırlı kalsa da deepfake, bugün çoğu bedava olan internet araçları ve hızlı internet sayesinde dünyanın dört bir yanında kullanılabiliyor.

Yapay zekanın birkaç yıl içinde gösterdiği atılım, deepfake araçlarının giderek daha da akıllanmasını ve az içerik ile çok başarılı sonuçlar vermesini sağladı. 2019’un en büyük ve şaşırtıcı örneği, insanların gençliğini tahmin edebilmesinin yanı sıra “nasıl yaşlanacağını öğrenen” FaceApp olmuştu.

FaceApp ile ortaya çıkan güvenlik riskleri hakkındaki detaylı haberimizi buraya tıklayarak inceleyebilirsiniz.

Günümüzde, tek bir fotoğraftan video üretilebiliyor… Sadece Facebook profil fotoğrafınızdan ve bir Instagram hikayenizden sesli ya da kurgulu videolarınızın üretileceği gün de çok uzakta değil.

Gerçek hayatın dolandırıcılıkla sonuçlanacağı algılar…

Deepfake’in en çok endişe veren tesiri, ana duyularımız ile algılanan gerçekliği örtmesi. Duyarak, görerek algıladığımız gerçeğin sahte olduğunu fark edememek ve ona karşı duygusal/realist tepkiler vermek, gerçek hayatın dolandırıcılık ile sarsılacağı sonuçlar doğurabilir.

Örneğin şirketlerdeki üst düzey çalışanların kimliğini kullanarak uygulanan genel müdür dolandırıcılığı, deepfake ile önüne geçilmesi çok zor bir boyuta ulaşabilir. Yöneticilerin görüntülerini, hatta seslerini kullanan mesajlar gönderilen çalışanlara sahte ödemeler yaptırılabilir, son derece hassas şirket bilgileri siber suçluların eline geçebilir.

Deepfake sayesinde siber suçlular e-posta ve SMS odaklı saldırıları geliştirerek çalışanlara gerçeğinden ayırt etmesi olanaksız görüntülü ve sesli mesajlar göndererek istedikleri işlemin yapılmasını sağlayabilir.

Hatta, gerçek zamanlı şekilde üretilecek deepfake videoları ile sadece çalışanlar değil, farklı şirketlere veya iş ortaklarına mensup kişiler görüntülü sohbet ile kandırılabilir. Zira geçtiğimiz yıl ABD’de bir CEO’nun yapay zekâ teknolojisi kullanılarak geliştirilen sahte ses ile 243 bin dolar dolandırılması, bu suçun ilk örneklerinden birini temsil ediyor.

Sosyal medya firmalarının eğlence alanında son derece ilgi çeken deepfake içeriklerini güçlendirmesi, siber suçluların yeni saldırı yöntemleri geliştirmesine de olanak verebilir. Snapchat ve TikTok’un yanı sıra, Apple’ın Face ID teknolojisi sınırsız bir biyometrik veri tabanını temsil ediyor.

Apple’ın milimetrik ölçüde doğru olduğunu belirttiği yüz taramaları, iMessage ve FaceTime hizmetlerinde “Memoji” oluşturmak için kullanılıyor.

Kısaca, amaç doğrudan deepfake içerik üretmek olmasa da türevlerini yıllardır sosyal medyada görüyoruz.

Tüm bu içerikler siber suçlulara yeni yöntemler sunabileceği gibi arka planlarında hazine sandığı gibi biyometrik veri tabakaları saklıyor.

Gerçek dünya deepfake saldırılarına hazır değil

Güvenlik dünyasının şu an deepfake saldırılarına karşı geliştirmiş olduğu bir e-posta filtresi, uygulama veya teknoloji söz konusu değil. Yine de tehdidin farkında olan birçok firma, geçtiğimiz yıl Deepfake Tespit Çalışması adı verilen projeyi hayata geçirdi.

Facebook, Microsoft ve birçok üniversitenin başını çektiği proje, deepfake tespiti yapacak araçların geliştirilmesini amaçlıyor.

Akıllara gelen en iyi savunma ise her zaman olduğu gibi kamuoyunun bilinçlendirilmesi. Ancak SnapChat’in 203 milyon ve TikTok’un çoğunluğu 13-30 yaş arasındaki 1 milyar kullanıcısı eğlence ile tehdit arasındaki çizgiyi çekebilir mi, bilinmez.