یادگیری ماشین آماری

Statistical Machine Learning

مقطع: تحصیلات تکمیلی گرایش: هوش مصنوعی
نوع درس: نظری تعداد واحد: ۳
پیش‌نیاز: مبانی یادگیری آماری هم‌نیاز: –

هدف کلی

هدف این درس آشنا نمودن دانشجویان با روش‌ها و مدل‌های یادگیری آماری است. دانشجویان ضمن آشنایی با مبانی نظری روش‌ها و فنون آماری حل مسائل، روش‌های معرفی شده را پیاده‌سازی نموده و به صورت عملی در مورد مجموعه داده‌های مختلف به کار می‌بندند.

سرفصل‌ها

  1. مقدمات: آمار و احتمال، استنتاج آماری، مدل‌های احتمالاتی و آماری رگرسیون و دسته‌بندی
  2. تخمین توزیع غیرپارامتری
  3. رگرسیون غیرپارامتری: روش‌های مبتنی بر هسته‌، چندجمله‌ای محلی، نزدیک‌ترین همسایه، و RKHS
  4. دسته‌بندی غیرپارامتری: روش‌های نزدیکترین همسایه، plug-in، مبتنی بر چگالی، درخت‌ها، جنگل‌های تصادفی
  5. روش‌های ابعاد بالا: رگرسیون گام به گام پیشرو، Lasso، رگرسیون مرزی، دسته‌بندی با ابعاد بالا
  6. کاهش بعد: تحلیل مؤلفه اصلی، روش‌های غیرخطی
  7. گسترش و تنظیم پایه
  8. تکنیک‌های منظم‌سازی
  9. ارزیابی و انتخاب مدل
  10. روش‌های هموارسازی مبتنی بر هسته
  11. تعبیه هسته
  12. علیت

ارزیابی پیشنهادی

  • تمرین‌ها و پروژه: ۲۰ درصد نمره
  • آزمون‌های میان‌ترم و پایانی: ۶۰ درصد نمره
  • پروژه پژوهشی: ۲۰ درصد نمره

منابع پیشنهادی

  1. J. Friedman, T. Hastie, and R. Tibshirani. The Elements of Statistical Learning. Springer, 2001.
  2. C. M. Bishop. Pattern Recognition and Machine Learning. Springer, 2016.