چگونه «پرده جهل» در حال شکل‌دهی به قوانین هوش مصنوعی است

وقتی مهندسان در آزمایشگاه‌های بزرگ هوش مصنوعی می‌نشینند تا محدودیت‌های رفتاری مدل‌های خود را بنویسند، دیگر صرفاً در حال کدنویسی نیستند. آن‌ها در حال تصمیم‌گیری هستند که در هنگام انتخاب ماشین، ارزش‌های چه کسی برنده شود، و این کار را در شرایطی انجام می‌دهند که استقرار جهانی این سیستم‌ها در خطر است. برای یافتن اینکه این قوانین چه باید باشند، توسعه‌دهندگان به طور فزاینده‌ای به یک آزمایش فکری روی می‌آورند که توسط جان رالز، فیلسوف سیاسی، در سال ۱۹۷۱ منتشر شد.[1][2]

رالز مفهوم «وضعیت اولیه» (Original Position) را معرفی کرد؛ سناریویی فرضی که برای حذف سوگیری‌های انسانی طراحی شده است. او از خوانندگان خواست تا تصور کنند قوانین یک جامعه را از پشت «پرده جهل» طراحی می‌کنند—حالتی که در آن هیچ‌کس از نژاد، ثروت، جنسیت یا استعدادهای طبیعی خود آگاه نیست.

اگر ندانید که ثروتمند به دنیا خواهید آمد یا فقیر، به احتمال زیاد سیستمی را طراحی خواهید کرد که از آسیب‌پذیرترین افراد محافظت کند. همانطور که دایرةالمعارف فلسفه استنفورد اشاره می‌کند، این وضعیت «اطلاعاتی مانند سن، جنسیت، یا باورهای مذهبی افراد اصلی را مسدود می‌کند» و مسئله انتخاب را قطعی می‌سازد.[1]

از لحاظ تاریخی، این مفهوم صرفاً یک تمرین آکادمیک باقی ماند. اما ظهور سیستم‌های خودران، پرده جهل را به یک الزام مهندسی عملی تبدیل کرده است.

هنگامی که مؤسسه فناوری ماساچوست (MIT) آزمایش «ماشین اخلاقی» (Moral Machine) را در ژانویه ۲۰۱۶ راه‌اندازی کرد، تصمیمات انسانی در مورد چگونگی تخصیص ریسک توسط خودروهای خودران در تصادفات اجتناب‌ناپذیر را جمع‌آوری کرد و پاسخ‌دهندگان را در بیش از ۲۰۰ کشور مورد آزمایش قرار داد. داده‌ها سوگیری‌های عمیق فرهنگی را آشکار کردند و ثابت کردند که اخلاق جمع‌آوری شده از طریق برون‌سپاری مردمی (Crowdsourcing) بسیار ذهنی و نسبی است.[3]

برای جلوگیری از اینکه هوش مصنوعی صرفاً این سوگیری‌های جمعیتی را حفظ و تقویت کند، محققان تکنیکی به نام «هوش مصنوعی مشروط» (Constitutional AI یا CAI) را ابداع کرده‌اند. همانطور که توسط تیم تحریریه فکت‌لن خلاصه شده است، این فرآیند دقیقاً در دو مرحله عمل می‌کند: یادگیری تحت نظارت (SL-CAI) و یادگیری تقویتی (RL-CAI). به جای اینکه برچسب‌گذاران انسانی هر پاسخ ممکن را درجه‌بندی کنند، توسعه‌دهندگان یک قانون اساسی متشکل از اصول سطح بالا می‌نویسند. سپس هوش مصنوعی خروجی‌های خود را بر اساس آن قانون اساسی درجه‌بندی می‌کند.[5]

در اینجا، پرده جهل از تئوری به معماری منتقل می‌شود. در طول مرحله یادگیری تقویتی، داور هوش مصنوعی که رفتار مدل را ارزیابی می‌کند، کاملاً نسبت به هویت کاربر کور عمل می‌کند. این داور فقط اصول موجود در قانون اساسی خود را می‌داند. مدل‌ها بر اساس «امتیاز ثبات» (Stability Score) بین ۰ و ۱ ارزیابی می‌شوند که دقیقاً سه بُعد اصلی رفاه را در خود جمع می‌کند: بهره‌وری، بقا و تعارض.[5]

اهمیت درست انجام دادن این کار بسیار زیاد است. تا سپتامبر ۲۰۲۵، محققان دانشگاه هاروارد در حال آزمایش «هوش مصنوعی مشروط معکوس» (Inverse Constitutional AI) بودند؛ روشی که تلاش می‌کند با استفاده از الگوریتم‌های رأی‌گیری تأییدی، یک قانون اساسی عادلانه را از ترجیحات متنوع انسانی مهندسی معکوس کند. هدف این است که ارزش‌های انسانی به صورت ریاضی در مجموعه‌ای از قوانین فشرده شوند که یک ماشین بتواند از آن‌ها پیروی کند، بدون اینکه اجازه داده شود اکثریت بر اقلیت ستم کند.[5]

با این حال، این رویکرد محدودیت‌های عمیقی دارد. ماشینی که پشت پرده جهل عمل می‌کند، همچنان در حال اجرای قانون اساسی است که توسط گروه کوچکی از توسعه‌دهندگان نوشته شده است. در حالی که برخی آزمایشگاه‌ها با برون‌سپاری مردمی این قوانین از طریق پروژه‌ای به نام «هوش مصنوعی مشروط جمعی» (Collective Constitutional AI) آزمایش کرده‌اند، منتقدان اشاره می‌کنند که ورودی دموکراتیک به طور خودکار تعارضات اخلاقی را حل نمی‌کند. رویکردهای مشارکتی اغلب از مسائل مربوط به قابلیت اجرا غافل می‌شوند و داوری نهایی را به مهندسان واگذار می‌کنند.[5]

ترجمه فلسفه سیاسی به شبکه‌های عصبی نشان‌دهنده یک تغییر اساسی در نحوه تنظیم فناوری توسط جامعه است. ما دیگر به «سه قانون رباتیک» آیزاک آسیموف در سال ۱۹۴۲، که قوانین زبان طبیعی را برای ربات‌های فیزیکی تصور می‌کرد، تکیه نمی‌کنیم. در عوض، ما در حال کدگذاری عدالت رویه‌ای وضعیت اولیه به طور مستقیم در وزن‌های مدل هستیم. دفعه بعد که یک مدل زبان از پذیرش یک فرمان امتناع کند، این تصمیم بر اساس یک تقریب ریاضی از عدالت خواهد بود.[2][5]