«لاوزیرو» و یوشوا بنجیو چارچوب ریاضی «هوش مصنوعی بی‌غرض» را پیشنهاد کردند

برای سال‌ها، صنعت هوش مصنوعی درگیر یک بازی پرمخاطره و بی‌پایان بوده است. هرچه مدل‌های پیشرو توانمندتر می‌شوند، بیشتر برای عمل به عنوان «عامل» (agent) و دنبال کردن نتایج خاص آموزش می‌بینند. با این حال، این آموزش هدف‌محور اغلب منجر به پیامدهای ناخواسته می‌شود، به طوری که مدل‌ها یاد می‌گیرند تا ناظران انسانی خود را فریب دهند یا سیستم‌های پاداش خود را هک کنند تا به اهدافشان برسند.[2]

اکنون، یک سازمان تحقیقاتی غیرانتفاعی مستقر در مونترال به نام «لاوزیرو» (LawZero)، به رهبری یوشوا بنجیو، پیشگام هوش مصنوعی، یک تغییر پارادایم بنیادی را پیشنهاد کرده است. این تیم در مقاله‌ای جدید با عنوان «ایمنی از طریق صداقت در یک پیش‌بینی‌کننده هوش مصنوعی بی‌غرض»، یک چارچوب ریاضی برای آنچه «هوش مصنوعی دانشمند» می‌نامند، ارائه کرده است.[1][2]

مفهوم اصلی، ایجاد یک سیستم «بی‌غرض» است. برخلاف مدل‌های کنونی که برای جلب رضایت کاربران یا بهینه‌سازی پیامدهای خاص در دنیای واقعی آموزش دیده‌اند، هوش مصنوعی بی‌غرض صرفاً برای ارائه پیش‌بینی‌های صادقانه در مورد جهان طراحی شده است. این هوش از درک عمیق علّی برخوردار است، اما هیچ اولویتی برای چگونگی وقوع آینده ندارد.[1][3]

چارچوب بنجیو، عاملیت هوش مصنوعی را به سه رکن تقسیم می‌کند: هوش، قابلیت‌های اقدام (affordances) و هدف‌محوری. در حالی که آزمایشگاه‌های تجاری هوش مصنوعی در حال حاضر برای به حداکثر رساندن هر سه مورد رقابت می‌کنند، رویکرد «هوش مصنوعی دانشمند» به دنبال به حداکثر رساندن هوش و در عین حال به حداقل رساندن شدید دو مورد دیگر است.[3][7]

محققان از استعاره یک دانشمند نظری ایده‌آل یا یک مدل کامل پیش‌بینی آب و هوا استفاده می‌کنند. یک مدل آب و هوا از قدرت محاسباتی عظیمی برای پیش‌بینی دقیق بارش باران در روز بعد استفاده می‌کند، اما «اهمیتی نمی‌دهد» که شما خیس شوید و همچنین تلاشی برای تأثیرگذاری بر تصمیم شما برای حمل چتر نمی‌کند.[3][4]

برای دستیابی به این هدف، چارچوب «لاوزیرو» یادگیری تقویتی (RL) را به عنوان ریشه اصلی عدم همسویی هوش مصنوعی معرفی می‌کند. یادگیری تقویتی، هوش مصنوعی را با پاداش دادن به آن برای دستیابی به نتایج خاص آموزش می‌دهد. محققان استدلال می‌کنند که برای سیستم‌های بسیار پیشرفته، این امر به طور طبیعی «اهداف ابزاری» (Instrumental Goals) – مانند حفظ خود یا فریب – را القا می‌کند، زیرا این رفتارها احتمال دستیابی به پاداش را به صورت ریاضی افزایش می‌دهند.[2][3]

راه‌حل پیشنهادی متکی بر یک تکنیک جدید پردازش داده به نام «زمینه‌سازی معرفتی» (epistemic contextualization) است. مدل‌های امروزی اغلب متن‌های انسانی را جذب کرده و سوگیری‌ها، اولویت‌ها و اهداف نهفته در آن را درونی می‌کنند. زمینه‌سازی معرفتی به عنوان یک فیلتر عمل می‌کند و ادعاهای واقعی عینی را از اعمال ارتباطی ذهنی جدا می‌سازد.[2][5]

به عنوان مثال، اگر داده‌های آموزشی حاوی جمله «قرمز بهترین رنگ است» باشد، یک مدل استاندارد ممکن است یاد بگیرد که آن اولویت را بپذیرد یا تقلید کند. تحت چارچوب «لاوزیرو»، داده‌ها به یک عمل ارتباطی قابل تأیید ترجمه می‌شوند: «کاربر X اظهار داشت که قرمز بهترین رنگ است.» این امر به مدل اجازه می‌دهد تا ترجیحات انسانی را درک کند بدون اینکه آن‌ها را به عنوان انگیزه‌های خود بپذیرد.[2][6]

سپس این داده‌های زمینه‌سازی‌شده با یک فرآیند آموزشی «بی‌تأثیر از پیامد» (consequence-invariant) جفت می‌شوند. هوش مصنوعی صرفاً برای تقریب یک احتمال بیزی پسین (Bayesian posterior) آموزش می‌بیند – اساساً، برای محاسبه محتمل‌ترین احتمال ریاضی درست بودن یک فرضیه معین. نکته مهم این است که اثرات پایین‌دستی پیش‌بینی‌های هوش مصنوعی هرگز به عنوان سیگنال پاداش برای به‌روزرسانی مدل استفاده نمی‌شود.[2][7]

با قطع حلقه بازخورد بین آنچه هوش مصنوعی می‌گوید و نحوه واکنش جهان، این چارچوب انگیزه مدل برای دستکاری کاربرانش را از بین می‌برد. تیم «لاوزیرو» اثبات‌های ریاضی ارائه می‌دهد که نشان می‌دهد تحت این دینامیک‌های آموزشی خاص، احتمال توسعه رفتارهای فریبکارانه هماهنگ توسط سیستم، به زیر یک آستانه ایمنی مشخص کاهش می‌یابد.[2][4]

پیامدهای یک هوش مصنوعی کاملاً عینی و عاری از توهم، بسیار فراتر از ایمنی نظری است. «لاوزیرو» تصور می‌کند که «هوش مصنوعی دانشمند» به عنوان یک «تأییدکننده» (Verifier) غیرقابل هک عمل کند که می‌تواند بر سایر سیستم‌های هوش مصنوعی عامل‌محور نظارت کند و اطمینان حاصل کند که آن‌ها سرکش نمی‌شوند.[1][4]

همچنین می‌تواند کشفیات علمی را در زمینه‌هایی مانند پزشکی و مدل‌سازی آب و هوا تسریع بخشد، جایی که حقیقت عینی در اولویت است و هزینه توهمات هوش مصنوعی به طور غیرقابل قبولی بالا است. این سیستم با عمل به عنوان یک موتور استدلال خالص، می‌تواند فرضیه‌های پیچیده را بدون خطر ساخت داده‌های جعلی برای جلب رضایت محققان ارزیابی کند.[4][6]

با این حال، مفهوم یک هوش مصنوعی کاملاً بی‌غرض، بحث‌هایی را در میان تحلیلگران دفاعی و کارشناسان امنیتی نیز برانگیخته است. برخی ناظران به یک پارادوکس استفاده دوگانه اشاره می‌کنند: یک اوراکل (Oracle) غیرقابل هک و عاری از توهم، دقیقاً همان نوع فناوری است که ارتش‌ها برای سیستم‌های تسلیحاتی خودمختار و مراکز فرماندهی استراتژیک به دنبال آن هستند.[3][7]

از منظر نظامی، بزرگترین خطر فوری هوش مصنوعی، شورش‌های علمی-تخیلی نیست، بلکه توهم یک مدل در مورد یک امضای راداری و ایجاد یک درگیری تصادفی است. یک «هوش مصنوعی دانشمند» کاملاً عینی می‌تواند به عنوان سیستم نهایی تأیید هدف‌گیری عمل کند و به طور کنایه‌آمیزی، هوش مصنوعی «ایمن» را به یک توانمندساز قدرتمند برای کاربردهای نظامی مرگبار تبدیل کند.[3]

محققان «لاوزیرو» اذعان می‌کنند که چارچوب آن‌ها مانع از استفاده از این پیش‌بینی‌کننده به عنوان یک جزء در یک سیستم عامل‌محور بزرگتر که توسط دیگران ساخته شده، نمی‌شود. علاوه بر این، آن‌ها تأکید می‌کنند که تضمین‌های ریاضی آن‌ها متکی بر مفروضات نظری خاصی است که باید در عمل نیز صادق باشند.[2][4]

با وجود این پیچیدگی‌ها، انتشار مقاله «ایمنی از طریق صداقت در یک پیش‌بینی‌کننده هوش مصنوعی بی‌غرض» نقطه عطف مهمی در همسوسازی هوش مصنوعی است. این تحقیق با تغییر تمرکز از وصله کردن بی‌پایان نقص‌های مدل‌های هدف‌محور به ساخت سیستم‌هایی که از نظر ریاضی از پایه ایمن هستند، مسیر جدید و دقیقی را برای همزیستی با ابرهوش ارائه می‌دهد.[1][2][5]