مقاوم سازي شبكه هاي عصبي عميق در برابر حملات مخرب

كارشناسي ارشد

يادگيري عميق حل كننده بسياري از مسائل است كه حوزه هاي ديگر هوش مصنوعي در حل آن ها ناكام بوده اند. شبكه هاي عصبي عميق علي رغم تمام مزايا و ويژگي هاي مثبت خود، در برابر حملات مخرب شديداً آسيب پذير هستند. اين آسيب پذيري موجب كاهش چشم گير دقت خصمانه شناساينده هاي اشيا شده است. با وجود تلاش ها و پژوهش هاي فراوان در اين موضوع كماكان دقت خصمانه شبكه هاي عصبي عميق در برابر حملات مخرب مختلف پايين بوده و به عدد قابل قبولي دست نيافته است. علاوه بر اين با ظهور و پيدايش حملات جديد تر و پيچيده تر، مقاوم سازي شبكه ها در برابر حملات مخرب بسيار پيچيده تر از قبل شده است. در اين پايان نامه، ما يك متد جديد مبتني بر فيلتر هاي گبور براي مقاوم سازي شناساينده هاي اشيا در برابر حملات مخرب ارائه كرده ايم. سپس متد معرفي شده را بر روي YOLOv3 با ستون هاي متفاوت، SSD با اندازه هاي ورودي و مختلف و FRCNN اعمال كرده ايم و به اين صورت 6 شناساينده اشيا مقاوم معرفي كرده ايم. جهت ارزيابي كارايي مدل هاي معرفي شده، آن ها را با استفاده از 3 حمله هدفمند TOG-fabrication، TOG-vanishing، TOG-mislabeling و 3 حمله رندوم بي هدف DAG، RAP و UEA آموزش خصمانه داده ايم. عملكرد مدل هاي به دست آمده در اين پايان نامه بر روي دو پايگاه داده مشهور PASCAL VOC و MSCOCO مورد بررسي قرار گرفته كه از پركاربرد ترين پايگاه هاي داده در حوزه شناسايي اشيا هستند. نتايج آزمايشگاهي متعدد نشان مي دهد كه اين روش علي رغم بهبود دقت خصمانه مدل هاي شناسايي اشيا، عملكرد مدل ها بر روي داده هاي تميز را نيز تحت تأثير قرار نمي دهد. همچنين جهت ارزيابي بهتر مدل، مدل هاي معرفي شده را يكبار با استفاده حمله جديد EBG نيز مورد ارزيابي قرار مي دهيم. اين حمله داراي قدرت بالايي است و مي تواند عملكرد دفاع ما در برابر حملات جعبه سياه تركيبي را نيز به خوبي مورد بررسي قرار دهد. نتايح اين پايان نامه نشان مي دهد كه اين دفاع علاوه بر نتايج قابل قبول در برابر حملات قديمي تر و نيز حملات هدفمند TOG، در برابر حملات تركيبي جعبه سياه جديد نيز عملكرد قابل قبولي دارد و مي توان به اعتبار مقاومت اين دفاع در شرايط متفاوت در حملات مخرب مختلف اميدوار بود. بهترين دقت خصمانه به دست آمده براي اين روش در بهترين مدل 54.2 درصد بوده است كه در مقايسه با كار هاي موجود در ادبيات موضوع بهبود قابل توجهي داشته است.

196380

دانشگاه علم و صنعت ايران

مهندسي برق - سيستم هاي الكترونيك ديجيتال

دكتر عبدالله اميرخاني