یادگیری عمیق
Deep Learning
| مقطع: تحصیلات تکمیلی | گرایش: هوش مصنوعی |
| نوع درس: نظری | تعداد واحد: ۳ |
| پیش‌نیاز: – | هم‌نیاز: – |
هدف کلی
هدف این درس آشنا نمودن دانشجویان با مفاهیم و اصول رایانش عصبی و کاربرد این رویکرد در حل انواع مسائل است. این درس علاوه بر آموزش مفاهیم اصلی رایانش عصبی، بر روی شبکه‌های عمیق و جدیدترین یافته‌ها در این زمینه تمرکز خواهد کرد.
سرفصل‌ها
- معرفی رایانش عصبی: تعریف و انگیزه، تاریخچه، روش‌های پیاده‌سازی، کاربردها
- شبکه‌های جلورو: گراف شبکه، واحدهای پردازشگر پرسپترون و آدالین، شبکه‌های چندلایه، قدرت حفظ و تعمیم
- شبکه‌های جلورو: قانون پس‌انتشار خطا، روش‌های مختلف آموزش شبکه، کاربرد در پیش‌بینی سری‌های زمانی
- یادگیری رقابتی و نقشه ویژگی خودسازمانده، نقشه‌های ویژگی خودسازمانده متکامل شونده
- شبکه پیچشی و توسعه‌های آن، شبکه باقیمانده‌ای، شبکه متراکم
- شبکه‌های خودکدگذار: شبکه‌های خودکدگذار پایه، تنظیم شده، تنک، نویزگیر، نویزگیر پشته‌ای و انقباضی
- مدلهای مولد: شبکه خودکدگذار تغییراتی، شبکه مولد تقابلی، مدلهای پخشی
- شبکه‌های بازرخدادی: واحد بازرخدادی معمولی، حافظه کوتاه-مدت بلند، واحد بازرخدادی دروازه‌دار
- شبکه‌های بازرخدادی: معماری‌ها، شبکه‌های المن، جردن، بازگشتی کامل، کاربرد در پیش‌بینی سری‌های زمانی
- ماشین بولتزمن و توسعه‌های آن: ماشین بولتزمن، ماشین بولتزمن محدود، شبکه‌های باور عمیق
- مکانیزم توجه: انواع توجه، مدل ترانسفورمر، برت، جی-پی-تی
- یادگیری تقویتی عمیق: معرفی یادگیری تقویتی، شبکه‌های عصبی عمیق در یادگیری تقویتی، کاربردهای نمونه
ارزیابی پیشنهادی
- تمر ین‌ها و پروژه‌ها: ۵۰ درصد نمره
- گزارش مطالعاتی: ۲۰ درصد نمره
- آزمون پایان نیم‌سال: ۳۰ درصد نمره
منابع پیشنهادی
- I. Goodfellow, Y. Bengio, and A. Courville. Deep Learning. MIT Press, 2016.
- A. Zhang, Z. C. Lipton, M. Li and A. J. Smola. Dive into Deep Learning. 2021.
- S. Samarasinghe. Neural Networks for Applied Sciences and Engineering. Taylor & Francis, 2006.
- S. Haykin. Neural Networks and Learning Machines. Prentice-Hall, 2009.