فروپاشی یک مرز ریاضی: چگونه هوش مصنوعی تفاوت بین شانس ذاتی و کمبود دانش را بازتعریف می‌کند

در ۶ اکتبر ۲۰۲۵، پژوهشگرانی که در چهل و دومین کنفرانس بین‌المللی یادگیری ماشین (ICML) حضور داشتند، مقاله‌ای منتشر کردند که یک فرض بنیادین در هوش مصنوعی را در هم شکست: این ایده که عدم قطعیت به شکلی تر و تمیز به دو دسته مجزا تقسیم می‌شود. سال‌هاست که مهندسان و دانشمندان داده برای سنجش ریسک به یک دوگانگی سخت‌گیرانه تکیه کرده‌اند. آن‌ها عدم قطعیت «تصادفی» (aleatoric) - یعنی شانس ذاتی و تقلیل‌ناپذیر پرتاب یک سکه - را از عدم قطعیت «معرفتی» (epistemic) - یعنی کمبود دانشی که با جمع‌آوری داده‌های بیشتر از بین می‌رود - جدا می‌کردند. اما با بزرگ‌تر شدن مدل‌های زبانی، این مرز شفاف فرو ریخت. یافته‌های سال ۲۰۲۵ نشان داد آنچه صنعت به عنوان یک چارچوب ریاضی حل‌شده بازاریابی می‌کرد، در واقع برای درک نحوه پردازش احتمالات توسط شبکه‌های عصبی مدرن به اندازه کافی گویا نبود. تمایز بین آنچه یک مدل «نمی‌تواند» بداند و آنچه «هنوز» نمی‌داند، به یک آستانه کاملاً سیال تبدیل شده بود.[5]

ریشه‌های این دوگانگی بسیار دورتر از علوم کامپیوتر قرار دارد. در سال ۲۰۰۸، مجله Structural Safety یک چارچوب پایه منتشر کرد که عدم قطعیت تصادفی را صرفاً به عنوان تصادف فیزیکی تقلیل‌ناپذیر تعریف می‌کرد. اگر یک مهندس در حال ساخت یک پل باشد، سرعت دقیق باد در یک روز سه‌شنبه در ۱۰ سال آینده کاملاً تصادفی است؛ این یک بازی شانس است که از واژه لاتین «alea» به معنای تاس گرفته شده است. هیچ مقدار از داده‌های تاریخی عدد دقیق را به شما نخواهد داد. عدم قطعیت معرفتی، که از واژه یونانی «episteme» به معنای دانش گرفته شده، نشان‌دهنده چیزهایی است که مهندس می‌توانست بداند اما نمی‌داند. اگر فولاد پل دارای یک نقص میکروسکوپی باشد که بازرس آن را نادیده گرفته، این یک خطای معرفتی است. این عدم قطعیت تنها به این دلیل وجود دارد که دانش ناظر ناقص است.[2]

یادگیری ماشین این چارچوب را به طور کامل پذیرفت. مقاله‌ای در سال ۲۰۱۹ در مجله Machine Learning این مفاهیم را برای شبکه‌های عصبی فرموله کرد و مدل کلاسیک را به عنوان یک موتور احتمالی در نظر گرفت. در این بستر، عدم قطعیت معرفتی به عنوان عدم قطعیت پارامترهای شبکه تفسیر می‌شد. اگر مدلی مطمئن نبود که یک تصویر سگ است یا گربه، صرفاً به این دلیل که هرگز آن نژاد خاص را ندیده بود، تغذیه آن با ۱۰,۰۰۰ تصویر دیگر از همان نژاد، عدم قطعیت معرفتی را تقریباً به صفر می‌رساند. مدل در واقع فقط به داده‌های بیشتری نیاز داشت.[1]

از سوی دیگر، عدم قطعیت تصادفی در خود پیش‌بینی احتمالی ظاهر می‌شد. اگر دوربین یک خودروی خودران با تابش ناگهانی نور خورشید کور شود، موقعیت دقیق خطوط جاده از دست می‌رود. حتی اگر مدل یک میلیارد ساعت فیلم رانندگی دیده باشد، نمی‌تواند به طور قطعی بداند خطوط در آن فریم خاص و مخدوش کجا هستند. این عدم قطعیت در فرآیند تولید داده نهفته است. سال‌ها، هدف «کمی‌سازی عدم قطعیت» در هوش مصنوعی این بود که کل عدم قطعیت را اندازه‌گیری کند، خط پایه تصادفی را جدا سازد و مابقی را به عنوان شکاف معرفتی در نظر بگیرد که مهندسان باید آن را پر می‌کردند.[1]

اما واقعیتِ پیاده‌سازی مدل‌های عظیم، شکاف‌های این نظریه را آشکار کرد. در آوریل ۲۰۲۲، پژوهشگران نگاه عمیق‌تری به تفکیک این دو عدم قطعیت منتشر کردند و نشان دادند که آن‌ها اغلب به روش‌هایی با هم تعامل دارند که این دوگانگی سخت‌گیرانه قادر به مدیریت آن نیست. اگر یک مدل جایگزین از آزمایش‌های کامپیوتری که حاوی نویز تصادفی هستند یاد بگیرد، مدل حاصل عدم قطعیت معرفتی از خود نشان می‌دهد که اساساً به آن تصادف اولیه وابسته است. این دو نوع عدم قطعیت در یکدیگر نفوذ می‌کنند و جدا کردن تمیز آن‌ها در استقرار پیچیده و واقعی سیستم‌ها از نظر ریاضی غیرممکن می‌شود.[4]

نقطه شکست با مقیاس عظیم مدل‌های زبانی بزرگ (LLM) فرا رسید. در فوریه ۲۰۲۴، پژوهشگران نشان دادند که از مدل‌های زبانی می‌توان برای تشخیص امر قابل شناخت از غیرقابل شناخت در سطح توکن استفاده کرد. وقتی یک LLM متنی تولید می‌کند، یک توزیع احتمال به کلمه بعدی اختصاص می‌دهد. اگر دستور این باشد: «پایتخت فرانسه شهرِ»، مدل با قطعیت نزدیک به ۱۰۰٪ می‌داند که کلمه بعدی «پاریس» است. این یک شکاف معرفتی حل‌شده است. اما اگر دستور این باشد: «اولین کارت کشیده شده از دسته کارت‌های بُر خورده»، مدل با عدم قطعیت تصادفی خالص روبرو می‌شود. کلمه بعدی می‌تواند هر یک از ۵۲ کارت باشد.[3]

با این حال، آزمایش‌های LLM در سال ۲۰۲۴ چیز عمیق‌تری را فاش کرد: مرز بین این دو عدم قطعیت کاملاً به بودجه محاسباتی ناظر بستگی دارد. اگر یک مدل کوچک باشد و روی داده‌های محدودی آموزش دیده باشد، بخش وسیعی از جهان برای آن تصادفی به نظر می‌رسد. این مدل ظرفیت تشخیص الگوهای پنهان را ندارد، بنابراین واریانس را به عنوان نویز تقلیل‌ناپذیر در نظر می‌گیرد. اما وقتی یک مدل عظیم با یک تریلیون پارامتر دقیقاً همان داده‌ها را پردازش می‌کند، همبستگی‌های پنهان را می‌یابد. آنچه برای مدل کوچک تصادفی بود، برای مدل بزرگ به معرفتی تبدیل می‌شود و متعاقباً به صفر کاهش می‌یابد.[3]

این تغییر، نحوه ارزیابی ما از ایمنی هوش مصنوعی را به طور بنیادین دگرگون می‌کند. فیلسوفان و آماردانان مدت‌هاست بر سر اینکه آیا تمایز بین این دو نوع عدم قطعیت در عمل ممکن است یا خیر، بحث کرده‌اند. در آمار کلاسیک فراوانی‌گرا، تابع درست‌نمایی عدم قطعیت تصادفی را توصیف می‌کند در حالی که پارامترها نشان‌دهنده عدم قطعیت معرفتی هستند. اما در عصر هوش مصنوعی مولد، بخش‌های بازاریابی اغلب «کمی‌سازی عدم قطعیت» را به عنوان تضمین ایمنی می‌فروشند. آن‌ها ادعا می‌کنند که مدل‌هایشان می‌توانند به طور کامل تصادف ذاتی را از کمبود دانش جدا کنند و قول می‌دهند که سیستم دقیقاً می‌داند چه زمانی باید از انسان کمک بخواهد.[6]

یافته‌های سال ۲۰۲۵ انتشارات MLR Press این روایت بازاریابی را در هم می‌شکند. فردی بیکفورد اسمیت، نویسنده اصلی این مطالعه، مشکل را به وضوح بیان کرد: «ما ناهماهنگی‌هایی را در بحث‌های موجود پیرامون این ایده‌ها شناسایی کردیم و پیشنهاد می‌کنیم که این امر ناشی از آن است که دیدگاه تصادفی-معرفتی برای دربرگرفتن تمام کمیت‌های متمایزی که پژوهشگران به آن‌ها علاقه‌مندند، به اندازه کافی گویا نیست.» این دوگانگی برای درک پراکندگی آماری در داده‌های مدرن بیش از حد ساده‌انگارانه است. وقتی یک عامل هوش مصنوعی در دنیای واقعی مستقر می‌شود - خواه در حال تشخیص بیماری یک بیمار باشد یا مسیریابی یک شبکه برق - عدم قطعیت آن یک ویژگی ثابت از جهان نیست. بلکه یک طیف است که توسط محدودیت‌های معماری خودش دیکته می‌شود.[5]

جداسازی تصادف ذاتی از کمبود دانش یک مطلق ریاضی نیست، بلکه یک آستانه مهندسی است. با ادامه گسترش مقیاس مدل‌ها، آن‌ها این مرز را فراتر خواهند برد و آنچه را که زمانی فکر می‌کردیم شانس خالص است، به الگوهای قابل پیش‌بینی تبدیل می‌کنند. چالش نسل بعدی هوش مصنوعی این نیست که آنچه را نمی‌داند به طور کامل دسته‌بندی کند، بلکه ساخت سیستم‌هایی است که به اندازه کافی قوی باشند تا در منطقه خاکستری بین این دو با ایمنی عمل کنند. مقاله ICML در سال ۲۰۲۵ خط پایه جدیدی را تعیین می‌کند: هر چارچوب ایمنی که بر تفکیک تمیز بین ریسک تصادفی و معرفتی تکیه کند، در حال اندازه‌گیری جهانی است که دیگر وجود ندارد.[5]