چرا ناهمسانی واریانس خطاهای استاندارد را مخدوش می‌کند و چگونه خطاهای استاندارد استوار ماتریس واریانس را اصلاح می‌کنند

محدودیت الزام‌آور برای رگرسیون خطی کلاسیک این است که نویز باید یکنواخت باشد. هر مشاهده باید دقیقاً همان مقدار عدم قطعیت زیربنایی را به همراه داشته باشد. این شرط که از نظر ریاضی به عنوان همسانی واریانس (homoskedasticity) شناخته می‌شود، تقریباً هرگز در داده‌های مشاهداتی دنیای واقعی صدق نمی‌کند. از مطالعات مقطعی درآمد گرفته تا بازارهای مالی که در آن‌ها نوسانات در دوره‌های زمانی مشخصی متمرکز می‌شوند، پراکندگی خطاها به‌ندرت ثابت است. وقتی این محدودیت نقض می‌شود، کل دستگاه استنتاج آماری — خطاهای استاندارد، فواصل اطمینان و مقادیر p — از کار می‌افتد.[1][4]

ناهمسانی واریانس (Heteroskedasticity) به زبان ساده یعنی «پراکندگی ناهمگون». این پدیده زمانی رخ می‌دهد که تغییرپذیری یک متغیر وابسته به‌طور سیستماتیک در مقادیر مختلف یک متغیر مستقل تغییر کند. به عنوان مثال، پیش‌بینی مخارج اختیاری سالانه خانواری با درآمد ۳۰,۰۰۰ دلار ممکن است خطاهای پیش‌بینی در حدود ۲,۰۰۰ دلار (بیشتر یا کمتر) به همراه داشته باشد. اما پیش‌بینی مخارج خانواری با درآمد ۳۰۰,۰۰۰ دلار ممکن است خطاهایی معادل ۴۰,۰۰۰ دلار یا بیشتر ایجاد کند، زیرا افراد پردرآمد انعطاف‌پذیری مالی بسیار بیشتری دارند. با افزایش متغیر درآمد، واریانس پسماندها مانند یک مخروط منبسط می‌شود.[3][6]

این نقض فرض، در واقع یافته اصلی را مخدوش نمی‌کند. اگر یک پژوهشگر رگرسیون حداقل مربعات معمولی (OLS) را روی داده‌های دارای ناهمسانی واریانس اجرا کند، خودِ برآوردهای ضرایب کاملاً بدون سوگیری باقی می‌مانند. خط بهترین برازش همچنان از نظر ریاضی همان خط بهترین برازشِ درست است. اعوجاج و تحریف کاملاً در درون کران‌های عدم قطعیت پیرامون آن خط رخ می‌دهد. از آنجا که فرمول کلاسیک OLS یک واریانس واحد و ثابت را در کل مجموعه داده‌ها فرض می‌کند، در عمل نویز را میانگین‌گیری می‌کند.[1][3]

با میانگین‌گیری نویز، OLS عدم قطعیت را در مشاهدات با واریانس بالا دست‌کم می‌گیرد و در مشاهدات با واریانس پایین بیش‌برآورد می‌کند. در بیشتر کاربردهای عملی، این امر حس کاذبی از دقت ایجاد می‌کند. ناهمسانی واریانس تمایل دارد خطاهای استاندارد را به‌طور مصنوعی کوچک کند، که این امر آماره‌های t را متورم کرده و مقادیر p تولید می‌کند که بسیار معنادار به نظر می‌رسند در حالی که این‌طور نیستند. یک پژوهشگر ممکن است یافته‌ای را منتشر کند و به یک فاصله اطمینان ۹۵ درصدیِ محدود و دقیق مطمئن باشد، در حالی که کاملاً بی‌خبر است که واریانس زیربنایی در حال انبساط بوده و آزمون را نامعتبر کرده است.[1][4]

برای رفع این مشکل، آماردانان به خطاهای استانداردِ سازگار با ناهمسانی واریانس تکیه می‌کنند که در همه‌جا به عنوان خطاهای استاندارد استوار (robust standard errors) یا برآوردگر ساندویچی هیوبر-وایت شناخته می‌شوند. این روش که به‌طور مستقل توسط پیتر هیوبر در سال ۱۹۶۷ و هالبرت وایت در سال ۱۹۸۰ معرفی شد، فرضِ داشتن یک واریانس اسکالر واحد را کنار می‌گذارد. در عوض، اجازه می‌دهد خود داده‌ها واریانس را در هر نقطه داده منفرد دیکته کنند و عدم قطعیت را بدون نیاز به یک پراکندگی ثابت، دوباره محاسبه می‌کند.[2][4]

این برآوردگر از نظر جبری شبیه یک ساندویچ ساخته شده است که نام محاوره‌ای آن نیز از همین‌جا می‌آید. «نان» در بیرونِ معادله شامل ماتریس اطلاعات معکوس استاندارد است که از متغیرهای مستقل به دست می‌آید. «گوشت» در وسط، یک ماتریس تجربی است که مستقیماً از مجذور پسماندهای تک‌تک مشاهدات در مجموعه داده‌ها ساخته می‌شود.[2][6]

با استفاده از مجذور پسماندهای واقعی به عنوان گوشت معادله، برآوردگر ساندویچی عدم قطعیت را به‌صورت پویا وزن‌دهی می‌کند. اگر یک مشاهده خاص دور از خط رگرسیون قرار گیرد، مجذور پسماند بزرگ آن، خطای استاندارد را منبسط می‌کند. اگر داده‌ها در ناحیه دیگری به‌طور متراکم خوشه‌بندی شده باشند، خطای استاندارد کوچک می‌شود. این رویکرد تجربی تضمین می‌کند که با افزایش اندازه نمونه، واریانس برآوردشده به واریانس واقعی همگرا می‌شود، صرف‌نظر از اینکه نویز چقدر ناهمگون توزیع شده باشد.[1][2]

ضرایب دقیقاً یکسان باقی می‌مانند؛ تنها فواصل اطمینان گسترده‌تر یا جابه‌جا می‌شوند تا عدم قطعیت زیربنایی واقعی را منعکس کنند. با این حال، برآوردگر اصلی وایت که اکنون به عنوان HC0 طبقه‌بندی می‌شود، یک آسیب‌پذیری ریاضی شناخته‌شده دارد: این برآوردگر کاملاً به نظریه مجانبی (asymptotic theory) متکی است. وقتی اندازه نمونه به بی‌نهایت میل می‌کند، عملکرد آن بی‌نقص است، اما در نمونه‌های کوچک، پسماندهای حداقل مربعات به‌طور طبیعی تمایل دارند خطاهای واقعی را دست‌کم بگیرند، زیرا خط رگرسیون برای به حداقل رساندن آن‌ها برازش شده است.[5][6]

این سوگیری در نمونه‌های کوچک باعث شد اقتصادسنجی‌دانان مجموعه‌ای از برآوردگرهای تعدیل‌شده را توسعه دهند که با برچسب‌های HC1 تا HC3 شناخته می‌شوند. نسخه HC1 یک اصلاح سرراست درجات آزادی را اعمال می‌کند. این روش، ماتریس واریانس را در اندازه نمونه تقسیم بر درجات آزادی (n تقسیم بر n منهای k) ضرب می‌کند. این همان تعدیل پیش‌فرضی است که وقتی یک پژوهشگر دستور استاندارد robust را در نرم‌افزارهای آماری مانند Stata تایپ می‌کند، اعمال می‌شود.[3][5]

با این حال، بهترین رویه‌های آماری مدرن برای نمونه‌های کوچک تا حد زیادی به سمت HC3 حرکت کرده‌اند. برآوردگر HC3 یک اصلاح اهرم (leverage correction) شبیه به روش جک‌نایف (jackknife) اعمال می‌کند. نقاط اهرمی مشاهدات خاصی هستند که دور از میانگین متغیرهای مستقل قرار دارند و کشش گرانشی نامتناسبی بر خط رگرسیون اعمال می‌کنند. از آنجا که خط رگرسیون به سمت این داده‌های پرت کشیده می‌شود، پسماندهای آن‌ها به‌طور مصنوعی کوچک به نظر می‌رسند. HC3 این نقاط با اهرم بالا را جریمه می‌کند و سهم واریانس آن‌ها را متورم می‌سازد تا از کوچک شدن کاذب خطاهای استاندارد توسط آن‌ها جلوگیری کند.[2][5]

با این وجود، حتی اصلاح HC3 نیز نمی‌تواند مدلی را که صرفاً داده‌های کافی ندارد، نجات دهد. عملکرد هر برآوردگر خطای استاندارد استوار به‌شدت به نسبت مشاهدات به متغیرهای مستقل بستگی دارد. شواهد شبیه‌سازی نشان می‌دهد که اگر مدلی دارای ۲۵۰ مشاهده و ۴ متغیر مستقل باشد، خطاهای استاندارد استوار عملکرد فوق‌العاده خوبی دارند. اما اگر همان ۲۵۰ مشاهده در بین ۱۰ متغیر مستقل پخش شوند، استنتاج به‌سرعت افت می‌کند.[5]

با افزایش تعداد پارامترها، میانگین اهرم افزایش می‌یابد و برآوردگر ساندویچی توانایی خود را برای برآورد سازگار مؤلفه‌های واریانس فردی از دست می‌دهد. انریکه پینزون، دستیار مدیر اقتصادسنجی در Stata، به محدودیت ریاضی سخت این اصلاح اشاره می‌کند: «اگر تعداد مشاهدات به ازای هر متغیر مستقل کم باشد، صرف‌نظر از اندازه نمونه، استنتاج ما ممکن است غیردقیق باشد، حتی زمانی که از خطاهای استاندارد سازگار با ناهمسانی واریانس استفاده می‌کنیم که سوگیری را اصلاح می‌کنند.»[5]

یک محدودیت عمیق‌تر و ساختاری‌تر نیز برای برآوردگر ساندویچی وجود دارد: این برآوردگر نمی‌تواند یک مدل اشتباه را اصلاح کند. خطاهای استاندارد استوار اغلب توسط پژوهشگران به عنوان یک وصله همه‌کاره برای داده‌های نامرتب مورد سوءاستفاده قرار می‌گیرند، اما آن‌ها تنها ماتریس واریانس را تحت این فرضِ سخت‌گیرانه اصلاح می‌کنند که مدل میانگین به‌درستی تصریح شده باشد. اگر یک پژوهشگر یک متغیر مخدوش‌کننده مهم را حذف کند، یا یک خط مستقیم خطی را بر یک رابطه نماییِ منحنی برازش دهد، پسماندهای حاصل به‌شدت ناهمسان به نظر خواهند رسید.[1][6]

در آن سناریو، اعمال خطاهای استاندارد استوار یک گمراه‌سازی ریاضی است. برآوردگر ساندویچی وظیفه‌شناسانه یک خطای استاندارد معتبر را برای یک ضریبِ اساساً دارای سوگیری محاسبه خواهد کرد. این کار اندازه‌گیری بسیار دقیقی از یک عدد اشتباه ارائه می‌دهد. وقتی خطاهای استاندارد کلاسیک و خطاهای استاندارد استوار به‌شدت با یکدیگر تفاوت دارند، اغلب یک پرچم قرمز روشن است که نشان می‌دهد خود مدل اشتباه تصریح شده است، نه اینکه فقط نویز ناهمگون است.[4][6]

برای جلوگیری از این کاربرد نادرست، آماردانان توصیه می‌کنند که پیش از اعمال هرگونه اصلاحات ماتریسی، ناهمسانی واریانس به‌طور صریح آزمون شود. آزمون بروش-پاگان (Breusch-Pagan) ابزار تشخیصی استانداردی است؛ این آزمون مجذور پسماندها را روی متغیرهای مستقل اولیه رگرسیون می‌کند تا بررسی کند آیا آن‌ها به‌طور مشترک واریانس پسماند را توضیح می‌دهند یا خیر. اگر چنین باشد، واریانس ثابت نیست و ناهمسانی واریانس وجود دارد.[2][3]

آزمون وایت (White test) یک تشخیص تعمیم‌یافته‌تر ارائه می‌دهد. این آزمون مجذور پسماندها را روی متغیرهای مستقل، مجذور آن‌ها و حاصل‌ضرب متقاطع آن‌ها رگرسیون می‌کند و به آن اجازه می‌دهد اشکال غیرخطی ناهمسانی واریانس را که آزمون بروش-پاگان ممکن است نادیده بگیرد، تشخیص دهد. اگر این آزمون‌ها نتایج منفی برگردانند و خطاهای استاندارد استوار تطابق نزدیکی با خطاهای کلاسیک داشته باشند (معمولاً نسبتی نزدیک به ۱.۰)، فرض همسانی واریانس برقرار است و استنتاج کلاسیک کاملاً کفایت می‌کند.[2][3]

برآوردگر ساندویچی به عنوان مکانیزمی برای حسابداری آماری صادقانه عمل می‌کند. این روش یک مدل رگرسیون را مجبور می‌کند دقیقاً اعتراف کند که چقدر نمی‌داند، و از ادعای معناداری آماری توسط پژوهشگران بر اساس توهمِ نویز یکنواخت جلوگیری می‌کند. اما این امر مستلزم آن است که تحلیلگر تفاوت بین واریانس ناهمگون و یک مدلِ اساساً خراب را درک کند. جبر ماتریسی می‌تواند کران‌های عدم قطعیت را اصلاح کند، اما نمی‌تواند معادله درست را بنویسد.[2][6]