نمونە سازي تقابلي با استفاده از شبكە هاي مولد تقابلي

كارشناسي

مدل‌هاي از قبل آموزش ديده (در مقياس بزرگ)، مانند يادگيري عميق، هم‌اكنون قلب و مركز اصلي پيشرفت هوش مصنوعي است. با وجود اين‌كه شبكه‌هاي مصنوعي پيشرفت و موفقيت چشم‌گيري، در بيشتر وقت‌ها فراي توانايي انسان‌ها، از خود در حل مسئله‌هاي پيچيده نشان داده است، پژوهش‌هاي اكنون نشان داده‌اند كه اين شبكه‌ها نسبت به حمله‌هاي تقابلي در حالتي كه تنها دستكاري‌هاي كوچكي اعمال شود، به طور كامل شبكه را فريب داده و در نتيجه، اين شبكه ها بسيار آسيب پذير و حساس هستند. در اين گزارش پس از بيان اهميت مسئله، يك دسته‌بندي از انواع حملات به شبكه‌هاي‌عصبي و همچنين مختصري از معمار و نحوه كار كردن شبكه مولد تقابلي بيان شده است. در ادامه به بررسي تاثير نمونه‌ تقابلي توليد شده توسط روش حمله Adv-GAN ، كه الهام گرفته از شبكه‌هاي مولد تقابلي است، در فريب شبكه هدف پرداخته شده‌است. در انتها نتايج بدست آمده در قالب انواع آمارها و نمودارها آورده شده است كه همه نشان دهنده اين هستند شبكه هدفي كه قبل از حمله دقت 99/3٪ را داشته است، پس از حمله بسيار موفق توسط بخش مولد شبكه Adv-GAN ، به دقت 0/43٪ رسيده است كه نشان از ميزان موفقيت 99/57٪ دارد.

204601

دانشگاه علم و صنعت ايران

مهندسي كامپيوتر

دكتر ناصر مزيني