یادگیری ماشین میانی و پیشرفته

برای چه کسی است

دانشجویان کارشناسی ارشد و دکترا و مهندسانی که مبانی یادگیری ماشین را می‌دانند و می‌خواهند آن را عمیق‌تر یاد بگیرند.

پیش‌نیازها

• جبر خطی (ماتریس، ضرب داخلی، وارون)
• احتمال و آمار پایه (امید ریاضی، واریانس)
• رگرسیون خطی و لجستیک
• مشتق و گرادیان

سرفصل‌ها

1. فصل 1: تعمیم و منظم‌سازی

   چرا مدل‌ها روی داده‌ی جدید شکست می‌خورند و چطور این را اندازه بگیریم و کنترل کنیم.

   1. بده‌بستان بایاس و واریانس
   2. منظم‌سازی L1 و L2
   3. اعتبارسنجی و انتخاب مدل

2. فصل 2: بهینه‌سازی برای یادگیری

   از گرادیان کاهشی تا Adam: مدل‌ها واقعاً چطور آموزش می‌بینند و چرا گاهی آموزش شکست می‌خورد.

   1. گرادیان کاهشی و نرخ یادگیری
   2. SGD و مومنتوم
   3. Adam و زمان‌بندی نرخ یادگیری

3. فصل 3: روش‌های گروهی

   چطور از ترکیب مدل‌های ضعیف، یک مدل قوی بسازیم: Bagging، جنگل تصادفی، Boosting و XGBoost.

   1. Bagging و جنگل تصادفی
   2. Boosting و AdaBoost
   3. Gradient Boosting و XGBoost

4. فصل 4: روش‌های کرنل و SVM

   حاشیه‌ی بیشینه، مسئله‌ی دوگان و ترفند کرنل.

   1. حاشیه‌ی بیشینه و مسئله‌ی دوگان SVM
   2. ترفند کرنل و قضیه‌ی مرسر
   3. SVM با حاشیه‌ی نرم و زیان هینج

5. فصل 5: یادگیری احتمالاتی

   از MLE و MAP تا مدل‌های متغیر پنهان و فرایند گاوسی.

   1. MLE و MAP
   2. مدل آمیخته‌ی گاوسی و الگوریتم EM
   3. فرایندهای گاوسی

6. فصل 6: شبکه‌های عصبی عمیق

   پس‌انتشار، مقداردهی اولیه، نرمال‌سازی و منظم‌سازی در شبکه‌های عمیق.

   1. گراف محاسباتی و پس‌انتشار
   2. مقداردهی اولیه و نرمال‌سازی
   3. Dropout و منظم‌سازی شبکه‌های عمیق

7. فصل 7: توجه و ترنسفورمر

   مکانیزم توجه، معماری ترنسفورمر و پیش‌آموزش.

   1. مکانیزم توجه
   2. معماری ترنسفورمر
   3. پیش‌آموزش و تنظیم دقیق

8. فصل 8: ارزیابی، کالیبراسیون و عدم‌قطعیت

   سنجش درست مدل‌ها در دنیای واقعی.

   1. معیارها در داده‌ی نامتوازن
   2. کالیبراسیون احتمال
   3. تخمین عدم‌قطعیت