کنفرانس بین المللی محاسبات نرم

صفحه اصلی / چهارمین کنفرانس بین المللی محاسبات نرم

حملات تخاصمی در یک مدل تحلیل احساس متن

نویسندگان :

سحر مکرمی سفیدآب¹ سید ابوالقاسم میرروشندل² حمیدرضا احمدی فر³ مهدی مکرمی سفیداب⁴

1- دانشگاه گیلان 2- دانشگاه گیلان 3- دانشگاه گیلان 4- دانشگاه پیام نور

کلمات کلیدی :

حملات متنی، نمونه های تخاصمی، گرادیان تابع هزینه، تحلیل احساس، یادگیری عمیق، پردازش زبان طبیعی

چکیده :

شبکه های عصبی عمیق باوجود کارایی و دقت مناسب خود در حل مسائل مختلف، در برابر نمونه های تخاصمی به شدت آسیب پذیر هستند. این گونه نمونه های مخرب به طور عمدی برای گمراهی و فریب مدل آموزش دیده و هم چنین بررسی آسیب پذیری مدل های مختلف شبکه عصبی ساخته می شوند. برای ساخت این نمونه ها در حوزه تصویر تاکنون روش های موفقیت آمیز بسیاری ارائه شده است اما در حوزه متن این روش ها موفقیت چندانی نداشته اند. در این پژوهش یک روش قوی مبتنی بر گرادیان تابع هزینه مدل برای تولید نمونه های تخاصمی متنی ارائه شده و نشان داده شده که می توان با جایگزینی تعداد کمی از کلمات موجود در نمونه های اصلی با کلماتی که بیشترین تاثیر منفی روی تصمیم طبقه بند دارند، نمونه های جدیدی مشابه با نمونه های اصلی اولیه برای فریب طبقه بند تحلیل احساس در سطح کلمه تولید نمود. در نهایت نیز با بهره گیری از این نمونه ها دقت مدل آموزش دیده بررسی شد. روش مورد استفاده در این پژوهش، با دستکاری اندک نمونه های ورودی، موفق به کاهش دقت طبقه بند از 85 درصد به کمتر از 2 درصد شده است.