You are not allowed to perform this action

امنیت و حریم خصوصی در یادگیری ماشین

Security and Privacy in Machine Learning

مقطع: تحصیلات تکمیلی گرایش: رایانش امن
نوع درس: نظری تعداد واحد: ۳
پیش‌نیاز: – هم‌نیاز: –

هدف کلی

هدف از این درس آشنایی دانشجویان با چالش‌های امنیت و حریم خصوصی در یادیگری ماشین است. انتظار می‌رود پس از این درس دانشجویان بتوانند تهدیدهای مدل‌های یادگیری ماشین را شناسایی کنند، از روشهای مختلف برای جلوگیری از نقض امنیت و حریم خصوصی مدل‌ها استفاده کنند و از تکنیکهای جلوگیری از حملات به مدلهای یادگیری استفاده کنند.

سرفصل‌ها

  1. مقدمه، اهمیت و چالش‌ها
  2. مروری بر تهدیدها و حملات امنیتی در مدل‌های یادگیری ماشین
  3. محاسبات امن چند طرفه: اصول و روشها
  4. حریم خصوصی: مفاهیم و اصول
  5. حملات استنتاج عضویت
  6. یادگیری ماشین با حفظ حریم خصوصی
  7. حملات آلوده‌سازی مدل‌های یادگیری
  8. حملات تخاصمی
  9. شبکه‌های تخاصمی مولد
  10. قوانین و مقررات در امنیت و حریم خصوصی یادگیری ماشین

ارزیابی پیشنهادی

  • تمرین‌ها و پروژه: ۳۰ درصد نمره
  • آزمون‌های میان‌ترم و پایانی: ۵۰ درصد نمره
  • پروژه پژوهشی: ۲۰ درصد نمره

منابع پیشنهادی

  1. N. Rubinstein and J, Tygar. Adversarial Machine Learning. Cambridge University Press, 2019.
  2. N. Papernot et al. SoK: Security and Privacy in Machine Learning. IEEE Euro S&P 2018.