رابطه‌ی دو متغیر: همبستگی و رگرسیون خطی

همبستگی پیرسون را بخوانی، خط رگرسیون را برای پیش‌بینی به کار ببری و بدانی چرا همبستگی علیت نیست.

15 دقیقه مطالعه · 6 سؤال تمرینی · آمار و احتمال برای علم داده

همبستگی: چقدر با هم حرکت می‌کنند؟

۵ دانشجو را در نظر بگیرید: ساعت مطالعه‌ی هفتگی و نمره‌ی امتحان

| ساعت مطالعه (xx) | ۱ | ۲ | ۳ | ۴ | ۵ | |---|---|---|---|---|---| | نمره (yy) | ۵۲ | ۵۸ | ۶۵ | ۷۰ | ۸۰ |

نمودار پراکندگی (scatter plot) تقریباً یک خط صعودی است. ضریب همبستگی پیرسون این را در یک عدد خلاصه می‌کند:

r=∑(xi−xˉ)(yi−yˉ)∑(xi−xˉ)2 ∑(yi−yˉ)2,−1≤r≤1r = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sqrt{\sum (x_i - \bar{x})^2}\,\sqrt{\sum (y_i - \bar{y})^2}}, \qquad -1 \le r \le 1
  • rr نزدیک +1+1: رابطه‌ی خطی صعودی قوی؛ نزدیک −1-1: نزولی قوی؛ نزدیک ۰: رابطه‌ی خطی ضعیف.
  • rr بدون واحد است و با تغییر مقیاس (مثلاً ساعت به دقیقه) عوض نمی‌شود.
  • برای این داده r≈0.994r \approx 0.994، تقریباً یک خط کامل.

دو هشدار مهم:

  1. r=0r = 0 یعنی رابطه‌ی خطی نیست، نه اینکه رابطه‌ای نیست. برای x=−2,−1,0,1,2x = -2,-1,0,1,2 و y=x2y = x^2 رابطه‌ی ۱۰۰٪ قطعی است ولی r=0r = 0.
  2. همبستگی علیت نیست. فروش بستنی و غرق‌شدن در استخر هر دو در تابستان بالا می‌روند (متغیر پنهان: گرما). مطالعه‌ی بیشتر ممکن است نمره را بالا ببرد، ولی همبستگی به‌تنهایی آن را ثابت نمی‌کند.

رگرسیون خطی ساده: خط بهترین برازش

می‌خواهیم نمره را از ساعت مطالعه پیش‌بینی کنیم. رگرسیون خطی خطی y^=a+bx\hat{y} = a + bx را می‌یابد که مجموع مربع خطاها ∑(yi−y^i)2\sum (y_i - \hat{y}_i)^2 را کمینه کند (کمترین مربعات):

b=r sysx,a=yˉ−b xˉb = r\,\frac{s_y}{s_x}, \qquad a = \bar{y} - b\,\bar{x}

برای داده‌ی بالا: b=6.8b = 6.8 و a=44.6a = 44.6، یعنی

y^=44.6+6.8 x\hat{y} = 44.6 + 6.8\,x

تفسیر: به ازای هر ساعت مطالعه‌ی بیشتر، نمره به طور متوسط ۶٫۸ واحد بیشتر پیش‌بینی می‌شود؛ و برای ۰ ساعت، پیش‌بینی ۴۴٫۶ است (اغلب خارج از محدوده‌ی داده و بی‌معنا).

ضریب تعیین R2=r2R^2 = r^2 می‌گوید چند درصد از تغییرات yy با خط توضیح داده می‌شود: اینجا 0.9942≈0.9880.994^2 \approx 0.988 یعنی حدود ۹۹٪.

نکته: برون‌یابی (پیش‌بینی بیرون از بازه‌ی داده، مثلاً ۴۰ ساعت مطالعه) خطرناک است؛ رابطه ممکن است خطی نماند.

منابع و مطالعه‌ی بیشتر

  • OpenIntro Statistics: کتاب درسی رایگان و بسیار روان برای آمار مقدماتی؛ فصل‌های توصیف داده و رگرسیون خطی (انگلیسی).
  • Seeing Theory: توضیح تصویری و تعاملی مفهوم‌های آمار و احتمال.
  • Think Stats: آمار با کد پایتون (مجوز CC BY-NC).

آن‌ها عالی‌اند برای «دیدن» مفهوم‌ها و حل مسئله‌ی طولانی. این‌جا کار دیگری می‌کنیم: همه‌چیز را با عدد و پرسش کوتاه تمرین می‌کنی و مرور فاصله‌دار می‌آورد که تفاوت «واریانس نمونه و جامعه» یا «همبستگی در برابر علیت» را چند هفته بعد هم یادت بماند.

تمرین‌های این درس را حل کن (رایگان)