مسئله خلاف واقع: چرا داده‌های مشاهده‌ای هرگز نمی‌توانند بدون یک مدل علی، علیت را ثابت کنند

در ۲۵ مارس ۲۰۱۵، پژوهشگران بانک فدرال رزرو کلیولند مقاله کاری 15-05 را منتشر کردند؛ یک رساله ریاضی پیچیده که انقلاب خاموشی را در نحوه درک اقتصاددانان از واقعیت رسمیت بخشید. این مقاله سیاست جدیدی برای نرخ بهره اعلام نکرد یا تورم را پیش‌بینی ننمود. در عوض، یک مرز ریاضی سخت میان دو چارچوب رقیب برای درک علت و معلول ترسیم کرد: مدل علی روبین و مدل‌های علی ساختاری. این تمایز به شدت اهمیت دارد، زیرا جامعه مدرن در داده‌های مشاهده‌ای غرق شده است، اما داده‌ها به تنهایی - هر چقدر هم که وسیع باشند - از نظر ریاضی نمی‌توانند ثابت کنند که چه چیزی علت چه چیزی است.[1]

استدلال اصلی کاملا شفاف است: ما نمی‌توانیم صرفا به یک صفحه گسترده از رویدادهای تاریخی نگاه کنیم و علیت را استنتاج کنیم. همان‌طور که مخزن موسسه ملی بهداشت (NIH) اشاره می‌کند، کل حوزه استنتاج علی بر مفهوم «خلاف واقع» بنا شده است. یک وضعیت خلاف واقع می‌پرسد که اگر مداخله‌ای رخ نمی‌داد، چه اتفاقی برای یک سوژه خاص می‌افتاد. از آنجا که ما نمی‌توانیم هر دو واقعیت را به طور همزمان مشاهده کنیم، استنتاج علی اساسا یک مسئله داده‌های گمشده است.[3]

از نظر تاریخی، رویکرد غالب به این داده‌های گمشده، مدل علی روبین بود که به نام آماردان دونالد روبین نام‌گذاری شده است. این چارچوب بر «پیامدهای بالقوه» تکیه دارد و فرض می‌کند که اگر متغیرهای کافی را کنترل کنیم، تخصیص درمان عملا تصادفی می‌شود - شرایطی که به عنوان «تعویض‌پذیری شرطی» شناخته می‌شود. این یک ابزار قدرتمند برای تخمین اثرات در زمانی است که مداخله به وضوح تعریف شده باشد، مانند یک درمان پزشکی، و متغیرها به شدت کنترل شوند.[1]

با این حال، قوی‌ترین استدلال متقابل در برابر مدل روبین از دل علوم کامپیوتر و به رهبری جودیا پرل ظهور کرد. پرل در متن بنیادین خود در سال ۲۰۰۹ با عنوان «علیت: مدل‌ها، استدلال و استنتاج»، نشان داد که چارچوب پیامدهای بالقوه فاقد واژگان ریاضی لازم برای بیان روابط ساختاری بین متغیرها پیش از جمع‌آوری داده‌ها است. پرل استدلال کرد که بدون یک مدل ساختاری، آماردانان در تاریکی پرواز می‌کنند و قادر نیستند بررسی کنند که آیا کنترل‌های آماری آن‌ها واقعا کمک‌کننده است یا آسیب‌زا.[5]

پرل گراف‌های جهت‌دار غیرمدور (DAGs) - نقشه‌های بصری ساده‌ای از پیکان‌ها که متغیرها را به هم متصل می‌کنند - را برای بیان صریح مفروضات علی معرفی کرد. این مدل‌های ساختاری ثابت می‌کنند که صرفا کنترل متغیرهای بیشتر، شما را به طور خودکار به حقیقت نزدیک نمی‌کند. در واقع، کنترل نوع خاصی از متغیر به نام «برخوردگر» (collider)، از نظر ریاضی سوگیری ایجاد می‌کند در حالی که قبلا وجود نداشته است، و یک همبستگی کاذب بین دو علت کاملا مستقل به وجود می‌آورد.[5]

اینجاست که دیدگاه تجربه‌گرایانه «کلان‌داده» با شکست مواجه می‌شود. تحلیلگران صنعت اغلب می‌پرسند که آیا مطالعات مشاهده‌ای می‌توانند علت و معلول را نشان دهند، به ویژه با ظهور یادگیری ماشین. غریزه الگوریتمی این است که هر متغیر موجود را به یک مدل وارد کند و اجازه دهد کامپیوتر آن را مرتب کند. اما الگوریتم‌ها در پایین‌ترین پله از چیزی که پرل آن را «نردبان علیت» می‌نامد - یعنی انجمن و همبستگی - عمل می‌کنند. آن‌ها در دیدن اینکه علامت A با بیماری B همبستگی دارد عالی هستند، اما نمی‌توانند استنتاج کنند که آیا A باعث B می‌شود، B باعث A می‌شود، یا یک عامل پنهان C باعث هر دو می‌شود.[4][5]

برای بالا رفتن از این نردبان به سمت مداخله (چه می‌شود اگر A را تغییر دهیم؟) و خلاف واقع‌ها (چه می‌شد اگر A را تغییر نمی‌دادیم؟)، باید یک مدل علی را در اختیار ماشین قرار دهیم. داده‌ها نمی‌توانند مدل را تولید کنند؛ این مدل است که باید داده‌ها را محدود و هدایت کند. همان‌طور که پژوهشگران فدرال رزرو تاکید کردند، مدل‌های ساختاری مکانیسم‌های علی را به صراحت تعریف می‌کنند و به پژوهشگران اجازه می‌دهند تا آزمایش کنند که آیا مفروضات آن‌ها با داده‌های مشاهده‌شده سازگار است یا خیر.[1]

حوزه پزشکی به طور فزاینده‌ای این محدودیت سخت را به رسمیت شناخته است. یک بررسی جامع منتشر شده در مجله اپیدمیولوژی و سلامت جامعه تاکید می‌کند که تخمین اثر با استفاده از داده‌های مشاهده‌ای نیازمند چارچوب‌های دقیق استنتاج علی است. اپیدمیولوژیست‌ها دیگر نمی‌توانند به سادگی رگرسیون‌ها را اجرا کنند و یک سلب مسئولیت اضافه کنند که «همبستگی به معنای علیت نیست». آن‌ها باید پیش از محاسبه حتی یک مقدار پی (p-value)، مفروضات علی خود را با استفاده از گراف‌های جهت‌دار غیرمدور به صراحت بیان کنند.[2]

شفافیت این رویکرد، بزرگترین نقطه قوت آن است. وقتی پژوهشگران یک مدل علی ساختاری را منتشر می‌کنند، در واقع مفروضات خود را روی میز می‌گذارند. اگر منتقدی با نتیجه‌گیری مخالف باشد، مجبور نیست به طور مبهم درباره «سوگیری متغیر حذف‌شده» بحث کند. او می‌تواند به پیکان دقیقی در گراف جهت‌دار غیرمدور اشاره کند که معتقد است جا افتاده یا برعکس کشیده شده است، و بدین ترتیب یک بحث فلسفی را به یک گزاره ریاضی قابل آزمایش تبدیل کند.[5]

این دیالکتیک میان چارچوب‌های روبین و پرل در نهایت هر دو را تقویت کرده است. مدل روبین ماشین‌آلات آماری دقیقی را برای تخمین اندازه یک اثر علی فراهم می‌کند، در حالی که مدل‌های ساختاری پرل طرح منطقی مورد نیاز را ارائه می‌دهند تا اطمینان حاصل شود که این تخمین از همان ابتدا از نظر ریاضی معتبر است. آن‌ها در کنار هم، بستر استنتاج علی مدرن را تشکیل می‌دهند.[1][5]

پیامدهای این موضوع بسیار فراتر از آمار دانشگاهی است. از شرکت‌های فناوری که آزمون‌های A/B را اجرا می‌کنند تا دولت‌هایی که مداخلات سیاستی را ارزیابی می‌کنند، اتکا به داده‌های مشاهده‌ای مطلق است. با این حال، همان‌طور که ادبیات علمی تایید می‌کند، بدون یک مدل ساختاری، هر ادعای علی به دست آمده از داده‌های مشاهده‌ای از نظر ریاضی اثبات‌نشده باقی می‌ماند و در برابر مخدوش‌کننده‌های پنهان و سوگیری برخوردگر آسیب‌پذیر است.[3]

مرز بعدی، ادغام مستقیم این مدل‌های علی در هوش مصنوعی است. تا زمانی که سیستم‌های هوش مصنوعی نتوانند خلاف واقع‌ها را پردازش کنند - یعنی استدلال درباره اینکه در شرایط متفاوت چه اتفاقی می‌افتاد - آن‌ها به جای موتورهای استدلال واقعی، تنها تطبیق‌دهنده‌های الگوی پیچیده‌ای باقی خواهند ماند. کف ریاضی تثبیت شده است: داده‌ها شواهد هستند، اما مدل علی منطقی است که این شواهد را معنادار می‌کند.[6]