توضیحات خلاف‌واقع چگونه بدون افشای وزن‌های مدل هوش مصنوعی، مسیر تجدیدنظر الگوریتمی را فراهم می‌کنند؟

وقتی سامانه ارزیابی اعتباری خودکار یک بانک درخواست وام مسکن را رد می‌کند، مسئول انطباق با قوانین باید مشخص کند چه اطلاعاتی دقیقاً به متقاضی ارائه شود. بر اساس قوانین فدرال، نهادها ۳۰ روز مهلت دارند تا دلیل مشخص اقدام منفی را شرح دهند. با این حال، ارائه مستقیم وزن‌های داخلی شبکه عصبی نه دردی از مصرف‌کننده دوا می‌کند و نه منطقی است، چرا که مالکیت فکری انحصاری بانک را افشا می‌سازد.[2]

برای گشودن این بن‌بست، سازمان‌ها به سراغ «توضیحات خلاف‌واقع» رفته‌اند؛ تکنیکی ریاضیاتی که معماری داخلی مدل را کاملاً دور می‌زند. سامانه به‌جای توضیح چگونگی پردازش داده‌ها در دل الگوریتم، کمترین تغییر ممکن در پروفایل متقاضی را محاسبه می‌کند که منجر به چرخش تصمیم از رد به قبولی شود.[4]

این رویکرد کانون توجه را از شفافیت خودِ مدل به مفهوم «حق تجدیدنظر الگوریتمی» معطوف می‌کند. ارزیابان با نگاه به هوش مصنوعی به‌مثابه یک جعبه سیاه، کوئری‌های مکرری به مدل ارسال می‌کنند تا مرزهای تصمیم‌گیری آن را ترسیم کنند. نتیجه، دستورالعملی کاملاً ملموس و عملی است؛ مانند افزایش ۱۵ واحدی امتیاز اعتباری یا کاهش ۴۵۰۰ دلاری مبلغ درخواستی وام.

مبانی حقوقی این سازوکار نخستین بار در مقاله بنیادین پژوهشگران مؤسسه اینترنت آکسفورد تشریح شد. آن‌ها استدلال کردند که حق دریافت توضیح مصرح در مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR)، به بهترین شکل زمانی برآورده می‌شود که به کاربر بگوییم چگونه خروجی را تغییر دهد، نه اینکه ریاضیات پیچیده درونی مدل را شرح دهیم.[3]

پژوهشگران در ارزیابی تصمیم‌گیری‌های خودکار یادآور شدند: «برای تغییر دادن خروجی یک سامانه، لزوماً نیازی به فهم ریزه‌کاری‌های نحوه کار آن ندارید.» این تمایز مفهومی به شرکت‌ها امکان می‌دهد خطوط توسعه و آموزش چند میلیون دلاری خود را کاملاً محرمانه نگه دارند و در عین حال الزامات قانونی شفافیت را نیز اجرا کنند.

ریاضیات محاسبه حداقل فاصله

تولید توضیحات خلاف‌واقع، در واقع حل یک مسئله بهینه‌سازی پیچیده است. الگوریتم بردار داده‌های اولیه متقاضی را می‌گیرد و در فضای داده‌ها به دنبال بردار فرضی جدیدی می‌گردد که خروجی مورد نظر را از مدل یادگیری ماشین بگیرد؛ هدف، یافتن نزدیک‌ترین بردار ممکن به داده‌های ورودی فعلی است.

محاسبه این نزدیکی معمولاً از طریق نُرم‌های ریاضی، مشخصاً نُرم L1 یا L2، انجام می‌گیرد. نُرم L1 مجموع قدرمطلق تفاوت میان متغیرهای فرضی و واقعی را می‌سنجد که مزیّت آن تولید پاسخ‌های تُنُک است؛ یعنی تنها متغیرهای محدودی دستخوش تغییر می‌شوند. در مقابل، نُرم L2 فاصله خط مستقیم را ارزیابی می‌کند که تمایل دارد تغییرات کوچک را در پهنه متغیرهای متعددی پخش کند.[4]

از منظر مصرف‌کننده، پاسخ بهینه‌شده با نُرم L1 بسیار کاربردی‌تر است؛ زیرا مثلاً توصیه می‌کند دو متغیر ملموس را اصلاح کند — نظیر تسویه ۲۱۰۰ دلار از بدهی کارت اعتباری و ۳ ماه صبوری — به‌جای آنکه تغییرات جزئی و غیرواقع‌بینانه‌ای را هم‌زمان در ۴۰ رفتار مالی مختلف از او بخواهد.

بخش تحقیقات مایکروسافت با انتشار چارچوب متن‌باز DiCE (توضیحات خلاف‌واقع متنوع)، این شیوه را ساختارمند کرد. چارچوب DiCE چندین مسیر متمایز را به سوی نتیجه مطلوب پیشنهاد می‌کند تا متقاضی بسته به شرایط واقعی زندگی خود، دست‌یافتنی‌ترین گزینه را برگزیند.

در آزمون‌های محک روی مجموعه‌داده‌های اعتباری مصرف‌کنندگان، الگوریتم DiCE به میانگین فاصله آشفتگی ۰٫۱۵ بر اساس نُرم L1 دست یافت. این عدد نشان می‌دهد که تغییرات الزامی از نظر ریاضی در کمترین سطح ممکن بوده‌اند، هرچند اجرایی بودن آن‌ها تماماً به نوع متغیرهایی وابسته است که الگوریتم برای اصلاح انتخاب کرده است.[4]

تضمین واقع‌گرایی و قابلیت اجرا

یک سناریوی خلاف‌واقع که از دید ریاضی بی‌نقص باشد اما قوانین فیزیک یا بیولوژی انسانی را نقض کند، کاملاً بی‌فایده است. نسخه‌های اولیه این الگوریتم‌ها خروجی‌های مضحکی تولید می‌کردند؛ برای نمونه به متقاضی ردشده توصیه می‌کردند سن خود را ۵ سال کاهش دهد یا نژادش را عوض کند تا واجد شرایط وام شود.[1]

برای اجتناب از این دست خطاهای فاحش، سامانه‌های مدرن در فرآیند بهینه‌سازی قیود سخت‌گیرانه‌ای برای امکان‌پذیری اعمال می‌کنند. متغیرهایی نظیر سن، نژاد و سوابق پزشکی قبلی به عنوان ویژگی‌های تغییرناپذیر قفل می‌شوند. الگوریتم از نظر ریاضی اجازه دستکاری این داده‌ها را ندارد و ناچار است راه‌حل را صرفاً در متغیرهای رفتاری قابل‌تغییر جستجو کند.[1][4]

اعمال قیود جهت‌دار نیز برای دستیابی به سناریوهای واقع‌گرایانه الزامی است. اگرچه سن انسان قابل کاهش نیست، اما ناگزیر افزایش می‌یابد؛ بنابراین یک سناریوی خلاف‌واقع معتبر می‌تواند توصیه کند فرد برای شکل‌گیری سابقه اعتباری طولانی‌تر، دو سال صبر کند. به همین ترتیب، سطح تحصیلات می‌تواند ارتقا یابد اما افت آن در شرایط عادی حرفه‌ای معنا ندارد.[1]

پژوهشگران حاضر در کنفرانس انصاف، پاسخگویی و شفافیت ACM نشان دادند که رویکردهای هدایت‌شده با «پیش‌نمونه» (Prototype-guided)، واقع‌گرایی این توضیحات را به شکل چشمگیری افزایش می‌دهند. این الگوریتم با تکیه بر پروفایل‌های واقعی افرادی که پیش‌تر پذیرفته شده‌اند، تضمین می‌کند که خروجی با الگوهای باورپذیر انسانی مطابقت دارد نه آنکه یک ناهنجاری ریاضیاتی محض باشد.[1]

روش مبتنی بر پیش‌نمونه در ارزیابی‌های محک توانست به نرخ اعتبار ۹۲ درصدی در خلق مسیرهای تجدیدنظر دست پیدا کند. با این حال، محدود ساختن دامنه جستجو به متقاضیان پذیرفته‌شده پیشین نیازمند بانک داده وسیع‌تری است؛ امری که اگر داده‌های این الگوها پیش از آغاز جستجو کاملاً ناشناس‌سازی نشوند، چالش‌های جدی حریم خصوصی در پی خواهد داشت.[1][4]

صیانت از معماری اختصاصی سامانه‌ها

بزرگ‌ترین مزیت تجاری توضیحات خلاف‌واقع در این نهفته است که کارایی خود را بدون برملا کردن معماری و پارامترهای مدل بنیادین حفظ می‌کنند. الگوریتم تولید این توضیحات، مدل مقصد را صرفاً به‌صورت یک سیستم ناشناخته می‌نگرد و تنها به دریافت مقادیر ورودی و پس دادن احتمالات خروجی متکی است.[4]

چنین سازگاری با ماهیت جعبه سیاه، برای نهادهای مالی و ارائه‌دهندگان خدمات درمانی حیاتی به شمار می‌رود. وزن‌ها، بایاس‌ها و توابع فعال‌سازی در شبکه‌های عصبی تجاری، ماحصل میلیون‌ها دلار هزینه تحقیق و توسعه‌اند. انتشار عمومی این اطلاعات فوراً مزیت رقابتی کسب‌وکار را بر باد داده و راه را برای حملات نفوذگران هموار می‌سازد.[2][4]

از آنجا که سیستم تولید این فرضیات صرفاً از طریق رابط‌های برنامه‌نویسی نرم‌افزار (API) با مدل گفتگو می‌کند، ذاتاً در برابر تهدیدات استخراج و شبیه‌سازی مدل مقاومت نشان می‌دهد. بازرسان یا مصرف‌کنندگان نمی‌توانند تنها با تحلیل حداقل تغییرات پیشنهادی برای یک پرونده، درخت‌های تصمیم‌گیری یا داده‌های آموزشی را بازتولید و مهندسی معکوس کنند.[2]

مؤسسه ملی استاندارد و فناوری (NIST) در چارچوب مدیریت ریسک هوش مصنوعی خود، صراحتاً به برقراری این توازن اشاره کرده است. این چارچوب تأکید دارد که سازمان‌ها باید شفافیت کافی را برای شهروندان تحت‌تأثیر فراهم کنند، بی آنکه امنیت سایبری یا حقوق مالکیت معنوی سامانه‌های فعال به خطر بیفتد.[2]

تیم تحریریه فکتلن در ارزیابی چشم‌انداز حقوقی معاصر خاطرنشان می‌کند: «سازوکارهای تبیین‌پذیری مبتنی بر آزمون و دستکاری ورودی‌ها، سنگری محکم در برابر سرقت مالکیت فکری به شمار می‌روند؛ چرا که حق قانونی تجدیدنظر را تأمین کرده و هم‌زمان هندسه درونی مدل را کاملاً سرّی نگاه می‌دارند.»[4]

بهای پردازشی حق تجدیدنظر

با وجود حل چالش مالکیت فکری، توضیحات خلاف‌واقع بار پردازشی سنگینی به بار می‌آورند. محاسبه کمترین مقدار بهینه نیازمند اجرای صدها و گاه هزاران بار فرآیند رفت‌وبرگشت روی مدل هدف برای تک‌تک درخواست‌های رد شده است.[4]

این محاسبات برای مدل‌های رگرسیون لجستیک چند میلی‌ثانیه بیشتر طول نمی‌کشد؛ اما وقتی پای شبکه‌های عصبی عمیق با پارامترهای فراوان در میان باشد، هزینه جستجو اوج می‌گیرد. واکاوی فکتلن روی رویکردهای مبتنی بر گرادیان حاکی از تأخیر پردازشی ۱٫۲ ثانیه‌ای به ازای هر کوئری در سخت‌افزارهای استاندارد است.[4]

با رشد تعداد ویژگی‌های ورودی، این تأخیر به شکل غیرخطی قد می‌کشد. چنانچه مدلی بیش از ۵۰ متغیر گوناگون را بررسی کند، فضای جستجوی ریاضی رشدی نمایی را تجربه می‌کند. در چنین شرایطی، متدهای مبتنی بر پیش‌نمونه، علی‌رغم ایجاد پاسخ‌های طبیعی‌تر، از ارائه کارایی هم‌زمان بازمی‌مانند.[1][4]

یافته‌های ما نشان می‌دهد که الگوهای مبتنی بر گرادیان تنها گزینه‌های معقول ریاضی برای سامانه‌های بی‌درنگ و پرترافیک چندبُعدی هستند. اگرچه سایر رویکردها اعتبار کیفی بیشتری ارائه می‌دهند، اما بار محاسباتی بالای آن‌ها استفاده‌شان را در سامانه‌هایی که در دقیقه به هزاران درخواست پاسخ می‌دهند ناممکن می‌سازد.[4]

این گلوگاه فنی مهندسان را وادار به موازنه‌ای ناگزیر میان کیفیت پاسخ و هزینه‌های محاسباتی می‌کند. بسیاری از مؤسسات برای پایین نگه داشتن زمان پاسخ، فضای جستجو را به‌طور مصنوعی محدود ساخته و به الگوریتم تنها اجازه دستکاری سه تا چهار متغیر در هر درخواست را می‌دهند.[4]

متغیرهای دسته‌ای و چشم‌انداز بهینه‌سازی

هنگام مواجهه با متغیرهای دسته‌ای، محاسبات فرآیند به مراتب پیچیده‌تر می‌شود. متغیرهای پیوسته نظیر درآمد را می‌توان به میزان خرده‌سنت‌ها نیز جابه‌جا کرد، اما متغیرهایی نظیر رسته شغلی یا وضعیت تأهل، حالت‌های گسسته‌ای هستند که وضعیت میانه‌ای در ریاضیات ندارند.

محاسبه این مقادیر گسسته نیازمند برنامه‌نویسی عدد صحیح آمیخته است؛ رویکردی که مشخصات زمانی جستجو را از بنیان دگرگون می‌کند. به‌جای حرکت هموار و لغزیدن روی گرادیان‌ها برای یافتن نزدیک‌ترین نقطه قبولی، سامانه مجبور است سناریوهای متعدد و مجزا را سبک‌سنگین کند که حجم پردازش را به‌شدت بالا می‌برد.[1][4]

برای غلبه بر این مانع، برخی برنامه‌نویسان پیش از آغاز جستجو، ویژگی‌های دسته‌ای را در فضاهای تعبیه‌شده پیوسته می‌نگارند. این ترفند البته گاه به توصیه‌های ناممکن در مرزهای میانی می‌انجامد و سامانه را مجبور می‌کند پس از بهینه‌سازی، نتیجه را به نزدیک‌ترین دسته معتبر تقلیل دهد.[1]

این انطباق اجباری پسینی می‌تواند بهینگی کل محاسبات را ویران کند؛ در نتیجه، مسیری که در فضای پیوسته کاملاً درست طراحی شده بود، پس از الصاق به گزینه‌های صلب واقعی ممکن است دیگر خروجی مدل را تغییر ندهد و کاربر را با یک توصیه غیرمعتبر تنها بگذارد.[1][4]

علی‌رغم تمام موانع رایانشی، رویکرد خلاف‌واقع همچنان عملی‌ترین الگو برای پاسخگویی تصمیمات هوش مصنوعی است. این راهکار ضرب ماتریس‌های گنگ و پیچیده در اعماق شبکه‌های عصبی را به زبان شفاف اقدامات انسانی بازمی‌گرداند و میان منطق ماشین و حقوق مصرف‌کننده پل می‌زند.[2]

با اعمال چارچوب‌های سخت‌گیرانه‌ای چون قانون هوش مصنوعی اتحادیه اروپا، تقاضا برای روش‌های بهینه‌سازی کارآمد رو به فزونی خواهد گذاشت. چالش پیش روی مهندسان دیگر صرفاً ساخت مدل‌هایی با تصمیم‌گیری دقیق نیست، بلکه چگونگی توضیح شفافِ راه‌های دگرگون کردن آن تصمیم‌هاست.[3][4]