WormGPT, Yapay Zekanın Karanlık Yüzü

Yapay zekanın gelişimi, çeşitli sektörlere ve bireylere sayısız fayda sağlamaktadır. Ancak, siber suçlular kötü niyetli faaliyetleri için üretken yapay zeka (Generative AI) araçlarının gücünden yararlanmaya başladıkça, yapay zekanın karanlık yüzü ortaya çıkmaya başladı. ChatGPT benzeri bir yapay zeka modeli dark webte yayıldığı gözlemlendi. WormGPT isimli dil modeli yapay zekanın kötü niyetli aktörler tarafından kendi avantajlarına göre yeniden tasarlanarak siber suçlara yol açmasına ve daha önce hiç görülmemiş ölçekte siber saldırılar gerçekleştirmesine olanak sağlıyor.

WormGPT, 2021’de geliştirilen açık kaynaklı bir dil modeli olan GPT-J’yi temel alan bir yapay zeka modülüdür. Özellikleri arasında sınırsız karakter desteği, sohbeti belleğinde tutma ve kod biçimlendirme yetenekleri yer alır. Bu da onu hem bireyler hem de kurumlar için tehlikeli hale getirmektedir.

Modelin birincil kullanımı oltalama saldırılarıdır. Alıcıya göre kişiselleştirilmiş son derece ikna edici sahte e-postaların oluşturulmasını sağlayarak saldırıların başarı şansını artırabilir. Dil modellerinin ne kadar hızlı metin üretebildiği göz önüne alındığında, dolandırıcılık hızı ve sayısı da hesaba katıldığında bu durum endişe vericidir.

Bu e-postalar genellikle, saldırganların üst düzey şirket yetkilileri veya çalışanları gibi davranarak hassas bilgileri paylaşmaları veya sahte hesaplara para aktarmaları için hedefleri kandırdıkları iş e-postası dolandırıcılığı (business e-mail compromise (BEC)) saldırılarının bir parçasıdır.

Oltalama e-postalarının oluşturulmasını otomatikleştirmek saldırganların daha kısa sürede daha fazla kurbanı hedeflemesine olanak tanır. Yapay zeka tarafından oluşturulan kusursuz metin, bilinen oltalama şablonlarıyla eşleşmiyorsa, e-posta spam filtrelerini aşarak kullanıcıya ulaşabilir. Alıcının e-postaya yanıt vermesi durumunda da yapay zeka yanıt vermek için de kullanılabilmektedir.

Bunun gibi sofistike atakları tespit edebilmek için e-postada alışılmadık bir dil veya aciliyet olup olmadığına dikkat edin. E-postanın meşruluğunu başka bir kanal aracılığıyla kontrol edin. Şüpheli alan adları, URL’ler ve ekler ile bunların derhal indirilmesine yönelik talimatlar kırmızı bayraklardır.

Kurumlar için ise e-posta oltalama saldırılarına karşı savunma proaktif bir yaklaşım gerektirir. Kuruluşlar oltalama saldırıları ve yapay zekanın bunu nasıl güçlendirebileceği konusunda çalışanları eğitmek için kapsamlı ve düzenli olarak güncellenen eğitim programlarına yatırım yapmalıdır. Ek olarak katı e-posta doğrulama süreçlerinin uygulanması, kötü niyetli e-postaların tespit edilmesine ve hedeflerine ulaşmasını engellemeye yardımcı olabilir.