Etiket: Çekişmeli Tespit Atlatma
• Adversarial Evasion (Evasion Attack): Yapay zeka modellerini yanıltmak amacıyla, test veya canlı kullanım (çıkarım/inference) aşamasında girdiler üzerinde yapılan kasıtlı ve küçük manipülasyonlardır. Örneğin; bir otonom aracın dur tabelasını algılamasını engellemek için tabelanın üzerine insan gözünün fark edemeyeceği küçük etiketler yapıştırmak veya bir antivirüs yazılımını atlatmak için virüs koduna zararsız görünen baytlar eklemek bu sınıfa girer.
• Detection Evasion: Güvenlik sistemlerinin (saldırı tespit sistemleri, fraud/dolandırıcılık filtreleri, malware tarayıcıları) tespit mekanizmalarını atlatma / atlatabilme eylemidir.
Bir araya geldiklerinde “Adversarial Detection Evasion” – Çekişmeli Tespit Atlatma, bir yapay zeka veya savunma modelinin tespit mekanizmasını, girdileri manipüle ederek (çekişmeli örnekler üreterek) işlevsiz bırakma ve sistemden kaçma sürecini ifade eder.
