مبانی یادگیری آماری
Foundations of Statistical Learning
| مقطع: تحصیلات تکمیلی | گرایش: هوش مصنوعی |
| نوع درس: نظری | تعداد واحد: ۳ |
| پیش‌نیاز: – | هم‌نیاز: – |
هدف کلی
هدف این درس پوشش دادن مسائل پایه‌ای در ارتباط با یادگیری آماری است. در این درس دانشجویان با رویکردهای مبتنی بر آمار و احتمال در هوش مصنوعی آشنا می‌شوند. مطالب این درس در بر گیرنده عناوین کلی آمار، احتمال و فرآیندهای تصادفی، استنتاج آماری و مدل‌ها و روش‌های آماری است.
سرفصل‌ها
- مرور بر نظریه احتمال و متغیرهای تصادفی: متغیرتصادفی، دنباله‌ای از متغیرهای تصادفی، توزیع‌های شرطی
- فرآیندهای تصادفی: معرفی، ایستایی، چگالی طیف توان، فرآیندهای تصادفی و سیستم‌های خطی
- فرآیندهای تصادفی خاص: فرآیند پواسون، فرایند گاوسی، راه رفتن تصادفی، وینر و دیریکله
- مدل‌ها، استنتاج آماری و یادگیری: مدل‌های پارامتری و غیرپارامتری، استنتاج آماری
- نظریه تخمین: تخمین پارامتر، تخمین‌های بیزی، رگرسیون خطی
- تست‌های آزمون فرضیه: تست نسبت درست‌نمایی و تعمیم‌ها، تست‌های نیکویی برازش
- مدل‌های گرافی: مدل‌های گرافی جهت دار، مدل‌های گرافی بدون جهت
- فرایندهای مارکوف و مدل‌های مارکوف پنهان
- روش‌های مونت کارلو: انتگرال‌گیری مونت کارلو، نمونه برداری نقاط مهم، شبیه‌سازی مونت‌کارلوی زنجیره مارکوفی
- استنتاج تغییراتی: روش‌های تغییراتی بیزی، EM تغییراتی بیزی
ارزیابی پیشنهادی
- تمرین‌ها و پروژه: ۲۰ درصد نمره
- آزمون‌های میان‌ترم و پایانی: ۷۰ درصد نمره
- پروژه پژوهشی: ۱۰ درصد نمره
منابع پیشنهادی
- L. Wasserman. All of Statistics: A Concise Course in Statistical Inference. Springer, 2003.
- K. P. Murphy. Machine Learning: A Probabilistic Perspective. MIT press, 2012.
- A. Papoulis and S. Pillai. Probability, Random Variables and Stochastic Processes. McGraw-Hill, 2002.