International Conference on Information and Knowledge Technology

Please wait ...

فارسی

Home / شانزدهمین کنفرانس بین المللی فناوری اطلاعات و دانش

Detection of Backdoor Attacks in Neural Networks Using Input Optimization

Authors :

Parsa Hashemi Khorsand¹ Ahmad Nickabadi²

1- Amirkabir University of Technology (Tehran Polytechnic) 2- Amirkabir University of Technology (Tehran Polytechnic)

Keywords :

backdoor attacks،adversarial robustness،backdoor detection،model contamination detection،input optimization،regularization

Abstract :

This paper presents a clean-data-free framework for detecting backdoor attacks in neural networks via input optimization. We introduce two complementary strategies. First, joint input optimization with a cleanliness detector: for each label, we optimize an input that simultaneously (i) maximizes the target-label logit on the suspected model and (ii) maintains in-domain naturalness according to an auxiliary diagnostic model; the resulting patterns are then inspected for trigger-like artifacts. Second, input optimization with the largest feasible regularization coefficient: for each label, we find the largest feasible regularization coefficient that still attains a preset confidence threshold, forming a per-class signature vector; Median Absolute Deviation (MAD) is then used to flag outlier labels as compromised. On MNIST, our framework achieves 89.5 percent detection accuracy on backdoored models with 100 percent recall in poisoned-label flagging, while requiring no access to clean training data. We further compare our methods with Neural Cleanse and the Certified Backdoor Detector (CBD).

List of archived papers

Writer-Independent Signature Verification with Enhanced AlexNet and Preprocessing Analysis

Mohammadreza Gholipour Shahraki - Mohammad Ghasemzadeh

مدل یادگیری ماشین برای تشخیص تقلب در کارت‌های اعتباری با رویکرد بهینه‌سازی AUC و تنظیم خودکار ابرپارامترها

محمد مهدی متولی

Classification of mental states of human concentration based on EEG signal

Mehran Safari Dehnavi - Vahid Safari Dehnavi - Dr Masoud Shafiee

A Swarm Intelligence Approach to Design Optimal Repeaters in Multilayer Graphene Nanoribbon Interconnects

Majid Sanaeepur - Maryam Momeni

کشف برخط تقلب پیشنهاد ساختگی (Bid-Shielding) در مناقصه و مزایده‌های الکترونیکی هلندی با رویکرد تحلیل شبکه اجتماعی

فاطمه الثلایا - دکتر سید علیرضا هاشمی گلپایگانی فاطمه الثلایا - سید علیرضا هاشمی گلپایگانی -

یک رویکرد سریع تحلیل و شناسایی آسیب پذیری Next-Intent در برنامه های کاربردی اندروید

زهرا کلوندی - دکتر مهدی سخائی نیا زهرا کلوندی - مهدی سخائی نیا -

بررسی روش‌ها، مجموعه‌های داده و معیارهای ارزیابی در حوزه‌ی پرسش از متون درون تصویر

کبری فرشیدی - حسن ختن‌لو - محرم منصوری زاده - الهام علی قارداش

Heart Sound Classification based on Group-based Sparse Features of PCG Signal

Zahra Hossein-Nejad - Mehdi Nasri

A Multi-Task Framework Using Mamba for Identity, Age, and Gender Classification from Hand Images

Amirabbas Rezasoltani - Alireza Hosseini - Ramin Toosi - MohammadAli Akhaee

شناسایی حملات فیشینگ با استفاده از الگوریتم عقاب آتشین و شبکه عصبی کانولوشن

علی کوشاری - مهدی فرتاش

more

Samin Hamayesh - Version 45.0.1