چگونه نمودارهای جهت‌دار غیرمدور (DAG) در داده‌های مشاهده‌ای، علیت را از همبستگی جدا می‌کنند؟

برای محاسبه اینکه آیا یک سیاست، یک دارو یا یک تصمیم تجاری واقعاً باعث یک نتیجه خاص شده است یا خیر، با استفاده از داده‌های مشاهده‌ای، محققان ابتدا باید یک محدودیت ریاضی سختگیرانه را برآورده کنند: آن‌ها باید ۱۰۰ درصد مسیرهای جایگزینی را که از طریق آن‌ها همبستگی می‌تواند جریان یابد، مسدود کنند. این شرط—که رسماً به عنوان معیار «مسیر پشتی» (backdoor criterion) شناخته می‌شود—مستلزم ترسیم کل سیستم متغیرها قبل از انجام هرگونه محاسبه است. در حال حاضر، این ترسیم بر نمودارهای جهت‌دار غیرمدور (DAGs) متکی است، یک جبر بصری که تحلیلگران را مجبور می‌کند تا آنچه را که درباره جهان باور دارند، پیش از آنکه داده‌ها بتوانند اظهارنظر کنند، به صراحت اعلام نمایند. اگر حتی یک مسیر مخدوش‌کننده باز بماند، برآورد نهایی از نظر ریاضی نامعتبر خواهد بود.[4]

این محدودیت، واقعیت خاموش پشت هیاهوی فزاینده شرکتی پیرامون «هوش مصنوعی علّی» (Causal AI) است. فروشندگان نرم‌افزارهای سازمانی به طور فزاینده‌ای ابزارهایی را تبلیغ می‌کنند که وعده می‌دهند فراتر از تطبیق الگوهای مدل‌های زبان بزرگ—که اغلب شامل صدها میلیارد پارامتر هستند—عمل کرده و «چرایی» پشت ریزش مشتریان یا شکست‌های زنجیره تأمین را به طور خودکار کشف کنند. اما تمایز آنچه واقعاً عرضه شده از آنچه صرفاً اعلام شده، شکاف قابل توجهی را نشان می‌دهد. سیستم‌های یادگیری ماشین کنونی تقریباً منحصراً در حالت آماری و بدون مدل عمل می‌کنند. برای دستیابی به استدلال علّی، سیستم به یک مدل از واقعیت نیاز دارد تا آن را هدایت کند—مدلی که، فعلاً، باید توسط متخصصان انسانی آن حوزه تأمین شود.[1][3]

چالش اساسی در استنتاج علّی این است که اثرات علّی را نمی‌توان مستقیماً مشاهده کرد. در یک آزمایش کنترل‌شده تصادفی، محققان می‌توانند به صورت فیزیکی یک مداخله را اعمال کرده و سایر عوامل را ثابت نگه دارند. اما در داده‌های مشاهده‌ای، محققان فقط می‌توانند آنچه برای هر فرد اتفاق افتاده را مشاهده کنند. آن‌ها باید «ضدواقعیت» (counterfactual) را استنتاج کنند: اگر درمان متفاوت بود، چه اتفاقی می‌افتاد. محققان IBM در یک بررسی فنی در اوت ۲۰۲۵ اشاره کردند که بدون تصادفی‌سازی، متغیرهای پنهانی که به عنوان «مخدوش‌کننده‌ها» (confounders) شناخته می‌شوند، می‌توانند به راحتی توهم یک رابطه علّی را ایجاد کنند، در حالی که چنین رابطه‌ای وجود ندارد.[1]

از لحاظ تاریخی، رویکرد آماری استاندارد برای مقابله با مخدوش‌کنندگی صرفاً تنظیم برای هر متغیر قابل اندازه‌گیری بود. اپیدمیولوژیست‌ها و اقتصادسنج‌ها مدل‌های رگرسیونی عظیمی می‌ساختند و ۱۵ تا ۲۰ عامل جمعیتی و بهداشتی را در آن وارد می‌کردند، به این امید که کنترل متغیرهای بیشتر، اثر واقعی را جدا کند. اما این رویکرد اساساً دارای نقص است. در سال ۲۰۱۱، جودیا پرل، دانشمند علوم کامپیوتر، جایزه تورینگ را برای اثبات این موضوع دریافت کرد که تنظیم برای متغیرهای اشتباه می‌تواند در واقع سوگیری (bias) ایجاد کند، نه اینکه آن را از بین ببرد. راه‌حلی که او از آن حمایت کرد، نمودار جهت‌دار غیرمدور بود.[2][3]

یک DAG نمایش بصری فرضیات علّی است. این نمودار شامل گره‌هایی است که متغیرها را نشان می‌دهند و با فلش‌های جهت‌دار—که روابط علّی را نشان می‌دهند—به هم متصل شده‌اند. نمودار «جهت‌دار» است زیرا علیت در یک جهت جریان دارد و «غیرمدور» (acyclic) است زیرا شامل ۰ حلقه بازخورد است. اگر متغیر A باعث متغیر B شود، یک فلش از A به B اشاره می‌کند. پرل در پادکست Mindscape در ماه مه ۲۰۲۲، این رابطه را در دقیقه ۱۶ به ساده‌ترین شکل ممکن توصیف کرد: متغیر گیرنده صرفاً «به» متغیر فرستنده «گوش می‌دهد». پرل توضیح داد: «انحراف فشارسنج به فشار جوی گوش می‌دهد. خروس به درخشش آسمان گوش می‌دهد. این تنها رابطه است، یک رابطه بسیار ابتدایی.»[3]

در حالی که فلش‌های موجود در یک DAG یک اثر علّی را اعلام می‌کنند، قوی‌ترین فرضیات، فلش‌هایی هستند که وجود ندارند. عدم وجود یک فلش بین دو متغیر، یک ادعای ریاضی قوی است مبنی بر اینکه هیچ رابطه علّی مستقیمی بین آن‌ها وجود ندارد. محققان با ترسیم نمودار، یک نقشه کامل از هر راه ممکن که اطلاعات می‌تواند از طریق آن در سیستم حرکت کند، ایجاد می‌کنند. این نقشه به آن‌ها اجازه می‌دهد تا «مسیرهای پشتی» (backdoor paths) را شناسایی کنند—مسیرهایی که درمان را از طریق یک علت مشترک به نتیجه متصل می‌کنند و یک همبستگی کاذب ایجاد می‌نمایند.[4]

پرل به طور مشهوری مخدوش‌کنندگی را به آب در یک لوله تشبیه کرد. همبستگی آزادانه از طریق مسیرهای باز جریان می‌یابد و برای جداسازی اثر علّی واقعی، محققان باید آب را در جایی از مسیر مسدود کنند. اگر حتی ۱ مسیر پشتی باز بماند، همبستگی جاری از طریق آن، برآورد نهایی را آلوده خواهد کرد. برای مسدود کردن یک مسیر، محققان باید حداقل ۱ متغیر در طول آن مسیر خاص را شرطی‌سازی کنند—یا به عبارت دیگر، از نظر آماری برای آن تنظیم انجام دهند.[4]

اینجاست که جبر بصری DAG به یک حساب دیفرانسیل و انتگرال ریاضی سختگیرانه تبدیل می‌شود. نمودار دقیقاً دیکته می‌کند که برای برآورده شدن معیار مسیر پشتی، کدام متغیرها باید تنظیم شوند. اما نکته حیاتی این است که همچنین دیکته می‌کند کدام متغیرها باید دست‌نخورده باقی بمانند. اگر ۲ علت مستقل هر دو بر متغیر سومی تأثیر بگذارند، آن متغیر سوم به عنوان «برخوردکننده» (collider) شناخته می‌شود. یک برخوردکننده به طور طبیعی جریان همبستگی بین دو علت را مسدود می‌کند. با این حال، اگر محققی به صورت آماری برای ۱ برخوردکننده تنظیم انجام دهد، ناخواسته دریچه را باز می‌کند و یک همبستگی کاذب بین دو علت مستقل ایجاد می‌نماید.[2]

کشف سوگیری برخوردکننده توضیح می‌دهد که چرا رویکرد سنتی کنترل برای هر متغیر موجود، اغلب نتایج نادرستی به بار می‌آورد. محققان با افزودن کورکورانه متغیرها به یک مدل رگرسیون، به طور معمول برای برخوردکننده‌ها تنظیم انجام می‌دادند و مسیرهای پشتی را باز می‌کردند که طبیعت قبلاً آن‌ها را بسته بود. DAG دستورالعمل دقیقی را برای اجتناب از این تله ارائه می‌دهد و حداقل مجموعه متغیرهای مورد نیاز برای جداسازی اثر علّی، بدون ایجاد سوگیری‌های جدید، را مشخص می‌کند.[2]

با وجود دقت ریاضی، چارچوب DAG یک محدودیت عمیق دارد که مواد بازاریابی هوش مصنوعی علّی به ندرت به آن اذعان می‌کنند. خود نمودار را نمی‌توان با داده‌ها اثبات کرد. همانطور که در راهنمای مرجع سپتامبر ۲۰۲۴ توسط The Decision Lab بیان شده است، برقراری علیت مستلزم در نظر گرفتن محدودیت‌هایی در داده‌های مشاهده‌ای است که الگوریتم‌ها نمی‌توانند به طور خودکار آن‌ها را حل کنند. داده‌ها گاهی اوقات می‌توانند به شما بگویند که نمودار شما قطعاً اشتباه است—با آزمایش استقلال‌های شرطی که نمودار دلالت می‌کند—اما هرگز نمی‌توانند ثابت کنند که نمودار شما قطعاً درست است.

اگر DAG ارائه‌شده توسط انسان نادرست باشد، برآوردهای علّی که تولید می‌کند از نظر ریاضی دقیق، اما کاملاً غلط خواهند بود. حساب علیت تنها در صورتی پاسخ‌های صحیح را تضمین می‌کند که نمودار، فرآیند تولید داده‌های زیربنایی را به درستی منعکس کند. این بدان معناست که استنتاج علّی یک تمرین ذاتاً ذهنی باقی می‌ماند و محققان را ملزم می‌کند که فرضیات خود را به صراحت اعلام کرده و از آن‌ها در برابر انتقاد همتایان دفاع کنند. ریاضیات نمی‌تواند یک نظریه معیوب از واقعیت را نجات دهد.[1]

مرز بعدی این حوزه، «کشف علّی» (causal discovery) است—تلاشی برای استفاده از الگوریتم‌های یادگیری ماشین برای استنتاج خودکار DAG صحیح مستقیماً از داده‌های مشاهده‌ای. در حالی که پیشرفت‌هایی با استفاده از درختان رگرسیون افزایشی بیزی و مدل‌های نویز طی ۳ تا ۵ سال گذشته حاصل شده است، این قابلیت همچنان بسیار محدود باقی مانده است. در آینده قابل پیش‌بینی، جداسازی علیت از همبستگی مستلزم این است که کارشناسان انسانی بنشینند، گره‌ها را ترسیم کنند و به صراحت مشخص کنند که چه چیزی به چه چیزی «گوش می‌دهد».[1][4]