کنفرانس بین المللی محاسبات نرم

صفحه اصلی / ششمین کنفرانس بین المللی محاسبات نرم

اعتماد و فریب در عصر دیجیتال

نویسندگان :

مهدی محمدیان¹

1- دانشگاه پیام نور

کلمات کلیدی :

یادگیری تقویتی چندعاملی،استواری خصمانه،ایمنی هوش مصنوعی،هوش مصنوعی قابل اعتماد،فریب دیجیتال،مسموم‌سازی خط‌مشی

چکیده :

استقرار سریع یادگیری تقویتی چندعاملی در حوزه‌های حساس و واقعی، مانند رانندگی خودران، شهرهای هوشمند و مراقبت‌های بهداشتی، بر یک فرض ضمنی از اعتماد در محیط‌های همکارانه استوار است. این اعتماد به شدت شکننده است و سیستم‌ها را در برابر دستکاری خصمانه‌ای آسیب‌پذیر می‌سازد که از حملات فنی صرف فراتر رفته و تاروپود بنیادین اعتماد میان‌عاملی را از هم می‌گسلد و آنچه را که ما «فریب دیجیتال» می‌نامیم، پرورش می‌دهد. این مقاله، پیمایش جامعی است که به طور نظام‌مند، بحث استواری خصمانه در MARL را از منظر «اعتماد و فریب» ارائه می‌دهد. در این مقاله، یک طبقه‌بندی معرفی می‌کنیم که استراتژی‌های خصمانه را به اشکال متمایزی از «فریب»، شامل فریب‌های ادراکی، رفتاری و شناختی، دسته‌بندی کرده و همزمان، سازوکارهای دفاعی با هدف «ایجاد و راستی‌آزمایی اعتماد» را تشریح می‌کند. با کاوش در پیامدهای این مفاهیم، به بینش‌های کلیدی در مورد چالش‌های باز پیش روی MARL، مانند راستی‌آزمایی اعتماد مقیاس‌پذیر در بوم‌سازگان‌های (اکولوژی‌های) عاملی بزرگ و توازن میان بی‌اعتمادی و عملکرد سیستم، دست می‌یابیم. در نهایت، استدلال می‌کنیم که پیشرفت سیستم‌های حقیقتاً خودمختار، در گروی ساخت دقیق سازوکارهای اعتماد قابل راستی‌آزمایی به صورت محاسباتی است. یافته‌های این مقاله، یک چارچوب آینده‌نگرانه برای پژوهش‌های آتی ترسیم کرده و جامعه هوش مصنوعی را ترغیب می‌کند تا اعتماد و ملاحظات اخلاقی را به عنوان ارکان بنیادین در توسعه سیستم‌های چندعاملی تاب‌آور در اولویت قرار دهد.