مشکل اساسی استنتاج علی: چرا واقعیت جایگزین همیشه غایب است

محدودیت الزام‌آور در اندازه‌گیری هر اثری این است که باید آنچه رخ داده را با آنچه در صورت انتخاب مسیری متفاوت رخ می‌داد، مقایسه کنید. برای اینکه بدانید آیا یک کمپین بازاریابی جدید باعث افزایش ۱۵ درصدی فروش شده است، یا اینکه آیا دوز ۲۰۰ میلی‌گرمی ایبوپروفن سردرد را درمان کرده است، باید دقیقاً همان سوژه را در همان لحظه و تحت هر دو شرایط مشاهده کنید. این شرایط هرگز محقق نمی‌شود. زمان تنها در یک جهت حرکت می‌کند و واقعیت فقط یک بار اتفاق می‌افتد. شما یا قرص را می‌خورید یا نمی‌خورید. واقعیت جایگزین به محض انجام یک انتخاب برای همیشه پاک می‌شود.[1][4]

این دوراهی صرفاً یک معمای فلسفی نیست؛ بلکه یک محدودیت سخت ریاضی است که با عنوان «مشکل اساسی استنتاج علی» شناخته می‌شود. این عبارت که توسط آماردانی به نام پل دبلیو. هالند در مقاله‌ای در سال ۱۹۸۶ ابداع شد، غیرممکن بودن مشاهده یک اثر علی در سطح واحد را توصیف می‌کند. از آنجا که یکی از پیامدهای بالقوه همیشه غایب است، علیت اساساً یک مسئله داده‌های گمشده است. هر الگوریتم، هر تست A/B و هر مدل یادگیری ماشینی که تلاش می‌کند علت و معلول را بسنجد، در نهایت در تلاش است تا جای خالی‌ای را پر کند که واقعیت از ارائه آن امتناع می‌ورزد.[2]

صنعت فناوری اغلب «هوش مصنوعی علی» و «یادگیری ماشینی علی» را به‌عنوان ابزارهایی بازاریابی می‌کند که در نهایت می‌توانند همبستگی را از علیت تفکیک کنند. فروشندگان وعده می‌دهند که پلتفرم‌هایشان می‌توانند مجموعه‌داده‌هایی با ۱۰۰,۰۰۰ یا ۱,۰۰۰,۰۰۰ سطر را دریافت کرده و محرک‌های واقعی رفتار مشتری یا پیشرفت بیماری را استخراج کنند. اما این سیستم‌ها هیچ لنز جادویی برای دیدن خطوط زمانی جایگزین ندارند. آن‌ها دقیقاً گرفتار همان محدودیت‌های ریاضی هستند که یرژی نیمن برای اولین بار در پایان‌نامه کارشناسی ارشد خود در سال ۱۹۲۳ فرمول‌بندی کرد و دونالد روبین در سال ۱۹۷۴ با مدل علی روبین آن را بسط داد.[1][5]

بر اساس مدل علی روبین، هر سوژه دو پیامد بالقوه دارد: وای(۱) در صورتی که درمان را دریافت کند، و وای(۰) در صورتی که دریافت نکند. اثر علی به‌سادگی برابر است با وای(۱) منهای وای(۰). اما از آنجا که ما تنها می‌توانیم یکی از این حالت‌ها را مشاهده کنیم، محاسبه اثر واقعی فردی غیرممکن است. استف فان بورن، آماردان، خاطرنشان می‌کند: «حداقل ۵۰ درصد از اطلاعات مورد نیاز برای محاسبه [اثر علی فردی] غایب است.» در عوض، آماردانان و دانشمندان داده تمرکز خود را از فرد به گروه معطوف کرده و تلاش می‌کنند تا میانگین اثر درمان را محاسبه کنند.[3]

برای محاسبه یک اثر میانگین، محققان باید یک فرض بزرگ و غیرقابل‌آزمون را در نظر بگیرند: اینکه گروهی که درمان را دریافت کرده کاملاً با گروهی که دریافت نکرده قابل‌مقایسه است. در یک کارآزمایی تصادفی کنترل‌شده — که استاندارد طلایی استنتاج علی است — این فرض توسط طراحی مطالعه اعمال می‌شود. با تخصیص تصادفی درمان به، مثلاً، ۵,۰۰۰ شرکت‌کننده در حالی که به ۵,۰۰۰ نفر دیگر دارونما داده می‌شود، محققان اطمینان حاصل می‌کنند که تنها تفاوت سیستماتیک بین دو گروه خود دارو است. گروه کنترل به‌عنوان جایگزینی برای واقعیت‌های جایگزین غایب گروه درمان‌شده عمل می‌کند.[1][4]

اما بیشتر داده‌هایی که توسط شرکت‌ها و دولت‌های مدرن جمع‌آوری می‌شوند، مشاهده‌ای هستند نه آزمایشی. یک شرکت می‌داند کدام ۲۵,۰۰۰ کاربر روی یک تبلیغ کلیک کرده‌اند، اما آن تبلیغ را به‌طور تصادفی به آن‌ها اختصاص نداده است. یک بیمارستان می‌داند کدام ۴۰۰ بیمار یک دارو را مصرف کرده‌اند، اما بیمارانی که به دنبال آن دارو رفته‌اند ممکن است به‌طور میانگین بیمارتر، ثروتمندتر یا ۱۰ سال مسن‌تر از کسانی باشند که آن را مصرف نکرده‌اند. وقتی دانشمندان داده الگوریتم‌های استنتاج علی را روی داده‌های مشاهده‌ای اعمال می‌کنند، در واقع تلاش می‌کنند تا یک کارآزمایی تصادفی را پس از وقوع رویداد به‌صورت ریاضی شبیه‌سازی کنند.[4]

اینجاست که هیاهوی تبلیغاتی از قابلیت‌های واقعی پیشی می‌گیرد. برای استخراج علیت از داده‌های مشاهده‌ای، الگوریتم‌ها به مفروضاتی مانند «نادیده‌انگاری» یا «عدم‌مخدوش‌شدگی» تکیه می‌کنند. این اصطلاحات به این معناست که مدل فرض می‌کند هر متغیری را که می‌تواند هم بر درمان و هم بر پیامد تأثیر بگذارد، اندازه‌گیری و لحاظ کرده است. اگر یک متغیر پنهان وجود داشته باشد — مثلاً یک استعداد ژنتیکی ثبت‌نشده در بیمار که خطر را تا ۳۰ درصد افزایش می‌دهد — برآورد مدل از واقعیت جایگزین اشتباه خواهد بود و نتیجه‌گیری «علی» آن صرفاً یک همبستگی بزک‌شده است.[2][5]

مدل‌های علی ساختاری که توسط یودیا پرل در دهه ۱۹۹۰ پایه‌گذاری شدند، با استفاده از گراف‌های جهت‌دار غیرمدور برای ترسیم روابط فرضی بین متغیرها، رویکرد متفاوتی را ارائه می‌دهند. اما این مدل‌ها نیز نیازمند آن هستند که محقق پیش از تحلیل داده‌ها، ساختار علی را به‌صراحت بیان کند. الگوریتم قوانین علی را از صفر کشف نمی‌کند؛ بلکه صرفاً اثرات را بر اساس مفروضات ساختاری انسان محاسبه می‌کند. اگر انسان نقشه اشتباهی بکشد، مدل یادگیری ماشینی با اطمینان کامل اثر علی اشتباهی را ارائه خواهد داد.[1][5]

مشکل اساسی استنتاج علی با افزودن توان پردازشی بیشتر یا مجموعه‌داده‌های بزرگ‌تر حل نمی‌شود. یک مجموعه‌داده با ۱۰ میلیارد سطر از داده‌های مشاهده‌ای همچنان فاقد واقعیت‌های جایگزین است. در شرایطی که یادگیری ماشینی علی در حال تبدیل شدن به یک ویژگی استاندارد در نرم‌افزارهای سازمانی است، این خطر وجود دارد که سازمان‌ها تعدیل‌های پیچیده آماری را با قطعیت واقعی علی اشتباه بگیرند.[4][5]

به دلیل همین محدودیت است که استنتاج علی به همان اندازه که یک حوزه محاسباتی است، یک رشته علمی نیز باقی می‌ماند. الگوریتم‌ها قدرتمند هستند، اما کاملاً به کیفیت طراحی مطالعه و اعتبار مفروضات انسانی وابسته‌اند. وقتی یک فروشنده ادعا می‌کند که هوش مصنوعی آن‌ها می‌تواند علیت را از داده‌های خام با دقت ۹۹ درصد کشف کند، در واقع این حقیقت را پنهان می‌کند که ماشین صرفاً در حال اجرای یک راه‌حل آماری برای یک مسئله علمی است.[5]

غیبت واقعیت جایگزین، تواضعی همیشگی را به علم داده تحمیل می‌کند. ما می‌توانیم ارتباطات را با دقت کامل اندازه‌گیری کنیم، اما علیت همیشه نیازمند یک جهش ایمانی از روی شکافِ چیزهایی است که نمی‌توانیم مشاهده کنیم. دفعه بعد که یک مدل دقیقاً پیش‌بینی کرد در صورت اتخاذ یک تصمیم متفاوت چه اتفاقی می‌افتاد، به یاد داشته باشید که آن مدل در حال گزارش یک واقعیت نیست. ریاضیات می‌تواند تخمین بزند که چه چیزی ممکن بود رخ دهد، اما اثر واقعی فردی در واقعیتی که هرگز اتفاق نیفتاده، محبوس می‌ماند.[5]