مبانی یادگیری آماری

Foundations of Statistical Learning

مقطع: تحصیلات تکمیلی گرایش: هوش مصنوعی
نوع درس: نظری تعداد واحد: ۳
پیش‌نیاز: – هم‌نیاز: –

هدف کلی

هدف این درس پوشش دادن مسائل پایه‌ای در ارتباط با یادگیری آماری است. در این درس دانشجویان با رویکردهای مبتنی بر آمار و احتمال در هوش مصنوعی آشنا می‌شوند. مطالب این درس در بر گیرنده عناوین کلی آمار، احتمال و فرآیندهای تصادفی، استنتاج آماری و مدل‌ها و روش‌های آماری است.

سرفصل‌ها

  1. مرور بر نظریه احتمال و متغیرهای تصادفی: متغیرتصادفی، دنباله‌ای از متغیرهای تصادفی، توزیع‌های شرطی
  2. فرآیندهای تصادفی: معرفی، ایستایی، چگالی طیف توان، فرآیندهای تصادفی و سیستم‌های خطی
  3. فرآیندهای تصادفی خاص: فرآیند پواسون، فرایند گاوسی، راه رفتن تصادفی، وینر و دیریکله
  4. مدل‌ها، استنتاج آماری و یادگیری: مدل‌های پارامتری و غیرپارامتری، استنتاج آماری
  5. نظریه تخمین: تخمین پارامتر، تخمین‌های بیزی، رگرسیون خطی
  6. تست‌های آزمون فرضیه: تست نسبت درست‌نمایی و تعمیم‌ها، تست‌های نیکویی برازش
  7. مدل‌های گرافی: مدل‌های گرافی جهت دار، مدل‌های گرافی بدون جهت
  8. فرایندهای مارکوف و مدل‌های مارکوف پنهان
  9. روش‌های مونت کارلو: انتگرال‌گیری مونت کارلو، نمونه برداری نقاط مهم، شبیه‌سازی مونت‌کارلوی زنجیره مارکوفی
  10. استنتاج تغییراتی: روش‌های تغییراتی بیزی، EM تغییراتی بیزی

ارزیابی پیشنهادی

منابع پیشنهادی

  1. L. Wasserman. All of Statistics: A Concise Course in Statistical Inference. Springer, 2003.
  2. K. P. Murphy. Machine Learning: A Probabilistic Perspective. MIT press, 2012.
  3. A. Papoulis and S. Pillai. Probability, Random Variables and Stochastic Processes. McGraw-Hill, 2002.