Araştırma: Düşük Bütçeli Projektörler Optik Saldırı ile Yapay Zekayı Aldatabiliyor

Projektörlerin sanal nesneler göstererek otonom araçları nasıl kandırabileceği geçtiğimiz yıl ortaya çıkarılmıştı. Projektörlerin yapay zekayı (AI) tamamen kandırmayı başardığı yeni bir yöntem daha keşfedildi.

Purdue Üniversitesi araştırmacıları tarafından tespit edilen ve “OPtical ADversarial attack” (OPAD) olarak adlandırılan yöntem, üç nesnenin kullanılmasını gerektiriyor: Düşük bütçeli bir projektör, bir kamera ve bir bilgisayar.

Yöntem, AI kandırmak için yeni görsel nesneler oluşturmak yerine nesnelerin nasıl algılandığı üzerinde oyun oynuyor. Örneğin, bir basketbol topu üzerine belirgin bir desen yansıtıldığı zaman farklı bir nesneye dönüşebiliyor.

Saldırının gerçekleştirilmesi için görüntüsü değiştirilmek istenen nesneye fiziksel erişim sağlamak gerekmiyor. Araştırmacılar, bu sayede OPAD’ın geçmişteki yöntemlerinden farklı olarak saldırıları daha kolay gerçekleştirebildiğini ifade etti. Araştırmacıların sunduğu örnekler arasında, bir “DUR” levhasının “Hız limiti 30” tabelasına dönüştürülmesi de yer alıyor. 

OPAD saldırı geçmişteki yöntemlerdeki zorlukları ortadan kaldırıyor: Belli çevresel şartların sabit olması ve müdahale edilebilir olması, aynı zamanda değiştirilecek cismin doğrusal kalması gerekiyor. OPAD ise çevre şartları ve algoritmayı hesaba katarak bu sorunların üstesinden geliyor. OPAD, her türlü mevcut dijital saldırıya uygulanabilecek meta-saldırı çatısı olarak ifade ediliyor.

Dikkatli olunması gerekiyor…

Gerçek hayatta uygulanması aşamasında OPAD, akıllı araçları kandırabileceği gibi AI kullanan güvenlik kameralarını aldatmak için de uygulanabilir. Araştırmacılar, AI geliştiren şirketlerin OPAD gibi yöntemlere karşı dikkatli olması gerektiğini ifade ediyor. Önemli detay, Purdue Üniversitesi tarafından yapılan araştırmanın ABD Ordusu tarafından finanse edilmiş olması. Kısaca, askeriye bu tür araştırmalara çoktan adın atmış durumda.