Yapay Zeka ve Dolandırıcılık: ChatGPT-4o ile Yeni Nesil Riskler

OpenAI’ın yeni nesil dil modeli ChatGPT-4o’nun gerçek zamanlı ses API’sinin dolandırıcılık amaçlı kötüye kullanılabileceği, yapılan bir araştırmayla ortaya kondu. Bu gelişmiş model, metin, ses ve görsel girdilerle çalışabilme özellikleri sunuyor. Ancak bu yeni yetenekler kötü niyetli kullanımlar için potansiyel bir zemin oluşturabiliyor.

Ses tabanlı dolandırıcılık yöntemleri ciddi bir sorun haline gelmişken, deepfake ve yapay zeka destekli metin okuma teknolojilerinin yaygınlaşması bu sorunu daha da büyütüyor. Illinois Üniversitesi araştırmacılarının yürüttüğü çalışmada, yeni teknolojik araçların sınırlamalar olmadan erişilebilir olmasının siber suçlular ve dolandırıcılar için fırsatlar sunduğu vurgulandı.

Araştırmacılar ChatGPT-4o’nun sesli yanıt özelliğini otomatik hale getirerek banka havalesi, hediye kartı talebi, kripto transferleri ve sosyal medya ya da Gmail hesap bilgilerini ele geçirme gibi dolandırıcılık örnekleri üzerinde çalıştı. Sesli sohbet özelliğini kullanan yapay zeka ajanları, sayfalar arasında gezinebiliyor, verileri girebiliyor, iki faktörlü kimlik doğrulama kodlarını yönetebiliyor ve dolandırıcılık için özel komutları uygulayabiliyor.

ChatGPT-4o, genellikle hassas bilgilerle ilgili talepleri reddetme eğiliminde olsa da, araştırmacılar basit komutlarla güvenlik önlemlerini aşabildiklerini ifade etti. Deneylerde gerçek bir kurbanın rolünü üstlenerek bazı internet bankacılığı uygulamalarında başarılı para transferi yapıldığını teyit ettiler.

Çalışmada dolandırıcılığın başarı oranlarının %20 ila %60 arasında değiştiği belirlendi. Banka havaleleri ve IRS ajanı gibi sahte kimliklerle yapılan dolandırıcılıklarda hata oranı yüksek olsa da, Gmail hesap bilgilerini çalma işlemi %60 başarı oranıyla öne çıktı. Araştırmacılar bu dolandırıcılık işlemlerinin ortalama maliyetinin başarılı bir işlem için yalnızca 0,75 dolar olduğunu belirtti. Daha karmaşık banka transfer işlemleri için maliyet 2,51 dolara kadar çıkarken, bu rakam yine de potansiyel kar göz önüne alındığında oldukça düşük.

OpenAI geliştirme aşamasında olan ChatGPT’nin yeni sürümü o1’i , “gelişmiş akıl yürütme” yeteneği ile bu tür kötüye kullanımlara karşı daha dirençli olacak şekilde geliştirildiğini belirtti. OpenAI sözcüsü yapılan bu tür araştırmaların ChatGPT’yi kötüye kullanımlara karşı daha güçlü hale getirmede yardımcı olduğunu söyledi.

Bu model kullanıcıların seslerini izinsiz olarak kopyalamalarını engellemek için yalnızca önceden onaylanmış sesler ile sınırlı çalıştığı ve yeni güvenlik testlerinde oldukça yüksek puan aldığı bildirildi. Örneğin GPT-4o’nun 71 puan aldığı testlerde o1 modeli 93 puana ulaştı.

Yapay zeka tabanlı ses araçlarının kötüye kullanım riski gün geçtikçe artıyor. ChatGPT gibi araçlar daha güvenli hale getirilse bile, kısıtlamasız erişime sahip diğer yapay zeka uygulamaları tehdit oluşturmaya devam ediyor. Bu tür araştırmalar, yapay zeka teknolojilerinin potansiyel tehlikelerini gözler önüne sererek güvenlik önlemlerinin önemini bir kez daha hatırlatıyor.