مطالعه نشان می‌دهد چت‌بات‌های هوش مصنوعی ساخت آمریکا، انتقاد از رهبران مستبد خارجی را سانسور می‌کنند

اگر از یک هوش مصنوعی پیشرفته بخواهید که جزوه‌ای در انتقاد از رئیس‌جمهور ایالات متحده یا پادشاه بریتانیا تهیه کند، به احتمال زیاد بدون تردید این کار را انجام می‌دهد و پاراگراف‌هایی از نقد سیاسی مفصل تولید می‌کند. اما اگر از همان سیستم بخواهید نقد مشابهی را درباره پادشاه تایلند، ولیعهد عربستان سعودی یا رئیس‌جمهور چین تولید کند، صفحه اغلب با یک امتناع مؤدبانه اما قاطع مواجه می‌شود. این تفاوت فاحش در نحوه برخورد مدل‌های هوش مصنوعی با شخصیت‌های سیاسی، یک نقص تصادفی نیست، بلکه یک الگوی سیستماتیک است که در محبوب‌ترین ابزارهای این صنعت نهادینه شده و سؤالات عمیقی را در مورد نحوه مدیریت قوانین جهانی گفتار توسط شرکت‌های فناوری مطرح می‌کند.[1][2]

یک مطالعه جامع که روز پنجشنبه توسط هیئت نظارت متا (Meta Oversight Board) منتشر شد – نهادی مستقل که در ابتدا برای بررسی تصمیمات پیچیده تعدیل محتوای رسانه‌های اجتماعی ایجاد شده بود – این پدیده را در سراسر چشم‌انداز هوش مصنوعی مولد مستند کرده است. محققان این هیئت به طور دقیق ده مدل اصلی زبان بزرگ تجاری، از جمله سیستم‌های شاخص توسعه یافته توسط اوپن‌ای‌آی (OpenAI)، متا (Meta)، گوگل (Google)، آنتروپیک (Anthropic) و ایکس‌ای‌آی (xAI) را آزمایش کردند. یافته‌های آن‌ها یک ثبات نگران‌کننده را نشان می‌دهد: این سیستم‌ها به طور قابل توجهی بیشتر احتمال دارد درخواست‌های انتقاد از رهبران کشورهای «محدودکننده» را رد کنند تا کشورهای دموکراتیک «مجاز»، که عملاً نقشه ژئوپلیتیکی آزادی مطبوعات و سانسور دولتی را منعکس می‌کند.[1][2][3][4]

پیامدهای این رفتار بسیار فراتر از مرزهای کشورهای استبدادی مورد بحث است. از آنجایی که این مدل‌ها به صورت جهانی از طریق اینترنت مستقر شده‌اند، فیلترهای ایمنی تعبیه‌شده در آن‌ها این خطر را دارند که به عنوان یک سازوکار اجرایی جهانی برای قوانین گفتاری محلی عمل کنند. پائولو کاروزا (Paolo Carozza)، رئیس مشترک هیئت نظارت، این وضعیت را به عنوان «گسترش سانسور نیابتی که از مرزها عبور می‌کند» توصیف کرد. او هشدار داد که اگر این روند کنترل نشود، زیرساخت‌های هوش مصنوعی ممکن است ناخواسته سرکوب بیان آزاد تحت حمایت دولت را عادی‌سازی کنند و سخت‌ترین استاندارد جهانی را بر کاربران، صرف نظر از موقعیت مکانی واقعی یا حقوق قانونی آن‌ها، تحمیل نماید.[1][2][5]

برای انجام این مطالعه، محققان مجموعه‌ای از هفت درخواست استاندارد شده را از مکانی در استرالیا – حوزه‌ای قضایی با حمایت قوی از آزادی بیان و بدون قوانین منع‌کننده انتقاد از رهبران خارجی – به ده مدل ارائه دادند. این درخواست‌ها از چت‌بات‌ها می‌خواستند که مواد اعتراضی، جزوه‌های انتقادی یا محتوای طنزآمیز را با هدف قرار دادن رهبران و دولت‌های سیاسی خاص تولید کنند. کشورهای مورد آزمایش بر اساس رتبه‌بندی خانه آزادی (Freedom House) به دو دسته متمایز تقسیم شدند: محیط‌های مجاز مانند ایالات متحده، بریتانیا، شیلی، ژاپن و تایوان، و محیط‌های محدودکننده مانند چین، عربستان سعودی، تایلند، کامبوج و ترکیه.[1][2][4][5][6]

تفاوت در پاسخ‌های مدل‌ها از نظر آماری قابل توجه و بسیار قابل پیش‌بینی بود. هنگامی که در مورد دولت‌های مجاز از آن‌ها سؤال می‌شد، مدل‌ها عموماً مایل به تولید نقد سیاسی بودند و در برخی موارد، حتی پیشنهاد می‌کردند که کاربران باید فعالانه از چنین رژیم‌های دارای آزادی بیان حمایت کنند. با این حال، هنگامی که هدف یک دولت محدودکننده بود، مدل‌ها اغلب از پذیرش درخواست کاربر خودداری می‌کردند. در بسیاری از موارد، چت‌بات‌ها صراحتاً قوانین محلی – مانند قوانین سخت‌گیرانه «توهین به ذات ملوکانه» (lèse-majesté) تایلند که توهین به سلطنت را جرم‌انگاری می‌کند – را به عنوان دلیل امتناع خود ذکر می‌کردند، علیرغم اینکه کاربر در استرالیا قرار داشت و چنین قوانینی در آنجا اعمال نمی‌شد.[2][5][6]

این مطالعه نمونه‌های خاص و واقعی از این نابرابری را برجسته کرد. به عنوان مثال، مدل کلود (Claude) شرکت آنتروپیک به راحتی محتوای انتقادی در مورد دونالد ترامپ، رئیس‌جمهور سابق آمریکا، یا پادشاه چارلز سوم بریتانیا را هنگامی که محققان درخواست کردند، تولید کرد. با این حال، هنگامی که درخواست‌های مشابهی در مورد رهبران چین، عربستان سعودی یا تایلند به آن داده شد، مدل از تولید متن درخواستی خودداری کرد. این رفتار یک آسیب‌پذیری حیاتی را در نحوه همسوسازی سیستم‌های هوش مصنوعی برای اولویت‌بندی ایمنی و انطباق قانونی برجسته می‌کند و نشان می‌دهد که موانع محافظتی که برای جلوگیری از آسیب در نظر گرفته شده‌اند، به راحتی می‌توانند برای محافظت از خودکامگان قدرتمند در برابر نظارت دیجیتال مورد سوءاستفاده قرار گیرند.[1][6]

برای درک اینکه چرا این اتفاق می‌افتد، لازم است مکانیسم‌هایی را بررسی کنیم که مدل‌های زبان بزرگ مدرن قبل از رسیدن به دست عموم، با آن‌ها آموزش دیده و اصلاح می‌شوند. مرحله اولیه توسعه هوش مصنوعی شامل جذب حجم عظیمی از متن از اینترنت باز است. این داده‌های آموزشی خام ذاتاً از یک «معضل دموکراتیک» رنج می‌برند: در جوامع آزاد، مطبوعات اغلب از رهبران انتقاد می‌کنند و حجم بالایی از پوشش منفی تولید می‌شود. در کشورهای استبدادی، رسانه‌های تحت کنترل دولت، پوشش خبری عمدتاً مثبتی از رژیم تولید می‌کنند، در حالی که به طور سیستماتیک مخالفت‌های داخلی را سرکوب می‌کنند.[6]

در نتیجه، دانش پایه این مدل‌ها از قبل توسط محیط‌های رسانه‌ای کشورهایی که در مورد آن‌ها یاد می‌گیرند، منحرف شده است و روایت‌های هماهنگ شده دولتی رژیم‌های محدودکننده را جذب می‌کند. اما علت مستقیم‌تر رفتار سانسور، در مرحله دوم توسعه نهفته است: تنظیم دقیق و همسوسازی. شرکت‌ها از تکنیک‌هایی مانند یادگیری تقویتی از بازخورد انسانی (RLHF) استفاده می‌کنند تا به مدل‌ها آموزش دهند که مفید، بی‌ضرر و صادق باشند و به آن‌ها دستور می‌دهند از تولید محتوای سمی یا غیرقانونی خودداری کنند.[2][6]

در طول فرآیند RLHF، آزمایش‌کنندگان انسانی به پاسخ‌های مدل امتیاز می‌دهند و خروجی‌هایی را که خطرناک یا از نظر قانونی پرخطر تلقی می‌شوند، جریمه می‌کنند. از آنجایی که شرکت‌های بزرگ فناوری در سطح جهانی فعالیت می‌کنند و به دنبال حفظ دسترسی به بازارهای بین‌المللی سودآور هستند، تیم‌های حقوقی و انطباق آن‌ها نسبت به قوانین محلی که انواع خاصی از گفتار را جرم‌انگاری می‌کنند، بسیار حساس هستند. اگر یک مدل محتوایی تولید کند که قوانین یک کشور خاص را نقض کند، شرکت ممکن است با جریمه‌های مالی سنگین، ممنوعیت پلتفرم یا حتی دستگیری کارمندان محلی مستقر در آن مناطق مواجه شود.[1][2][6]

برای کاهش این خطر حقوقی عظیم، توسعه‌دهندگان اغلب فیلترهای ایمنی گسترده‌ای را پیاده‌سازی می‌کنند که به مدل دستور می‌دهند به طور کامل از تولید محتوای غیرقانونی خودداری کند. با این حال، این فیلترها اغلب فاقد ظرافت جغرافیایی یا آگاهی زمینه‌ای هستند. به جای محدود کردن جغرافیایی (geofencing) این محدودیت به طوری که فقط برای کاربرانی که به صورت فیزیکی در داخل کشور محدودکننده قرار دارند اعمال شود، مدل یک قانون کلی و تعمیم‌یافته را یاد می‌گیرد: «از این رهبر خاص انتقاد نکنید.» در نتیجه، کاربری که در سیدنی، لندن یا نیویورک نشسته است، مشمول همان محدودیت‌های گفتاری می‌شود که توسط مقامات پکن یا ریاض وضع شده است.[2][6]

گزارش هیئت نظارت متا هشدار می‌دهد که این پویایی می‌تواند تلاش‌های جهانی برای تغییرات اجتماعی و حمایت از حقوق بشر را به شدت خفه کند. مخالفان، مدافعان حقوق بشر و روزنامه‌نگاران مستقل به طور فزاینده‌ای به منابع اطلاعاتی دیجیتال برای سازماندهی کمپین‌ها، ترجمه اسناد حقوقی و نقد ایمن رژیم‌های سرکوبگر متکی هستند. اگر قدرتمندترین ابزارهای تحلیلی جهان از کمک به تهیه مواد اعتراضی یا تحلیل سیاست‌های دولت‌های استبدادی خودداری کنند، این فناوری عملاً طرف سانسورگر را می‌گیرد، جمعیت‌های آسیب‌پذیر را از قابلیت‌های حیاتی محروم می‌کند و وضعیت موجود را تقویت می‌نماید.[1][6]

در حالی که هیئت نظارت هیچ اختیار نظارتی رسمی بر شرکت‌هایی غیر از متا ندارد، از این گزارش جامع برای تلاش در جهت ایجاد هنجارهای صنعتی برای بخش رو به رشد هوش مصنوعی استفاده می‌کند. این هیئت قویاً توصیه می‌کند که توسعه‌دهندگان هوش مصنوعی علناً نحوه پاسخگویی خود به درخواست‌های دولتی که بر خروجی مدل‌ها تأثیر می‌گذارند را افشا کنند و همان سطح شفافیتی را که از پلتفرم‌های رسانه‌های اجتماعی انتظار می‌رود، به هوش مصنوعی بیاورند. علاوه بر این، از شرکت‌ها می‌خواهد که سیاست‌های واضح و عمومی برای رسیدگی به خواسته‌های دولتی که با قوانین بین‌المللی حقوق بشر در تضاد هستند، ایجاد کنند.[1][2]

در این گزارش آمده است: «همانطور که شرکت‌های رسانه‌های اجتماعی در شرایط خاصی انجام داده‌اند، شرکت‌های هوش مصنوعی باید پاسخ‌های خود به درخواست‌های دولتی مؤثر بر خروجی مدل را در طول چرخه عمر مدل، علناً افشا و توضیح دهند.» این شامل درخواست شفافیت در مورد داده‌های آموزشی اولیه، فرآیندهای تنظیم دقیق، بررسی‌های ایمنی قبل از استقرار و تنظیمات پس از استقرار است. این هیئت تأکید می‌کند که بررسی دقیق حقوق بشر باید از روز اول در فرآیند مهندسی اصلی ادغام شود، نه اینکه پس از فعال شدن مدل، به عنوان یک فکر بعدی یا یک تمرین روابط عمومی با آن برخورد شود.[1][2]

صنعت هوش مصنوعی اکنون با یک توازن ژئوپلیتیکی پیچیده و پرمخاطره روبرو است. توسعه‌دهندگان باید در یک چشم‌انداز نظارتی جهانی به شدت تکه‌تکه شده حرکت کنند، در حالی که تلاش می‌کنند ابزارهای جهانی بسازند که به یک پایگاه کاربری جهانی خدمت کنند. اگر آن‌ها نتوانند از گسترش فرامرزی سانسور استبدادی جلوگیری کنند، این خطر وجود دارد که ارزش‌های دموکراتیک آزادی بیان و جستجوی آزاد را که به فناوری‌هایشان اجازه شکوفایی داد، تضعیف کنند و به طور بالقوه نسل بعدی محاسبات را به ابزاری برای کنترل دولتی جهانی تبدیل نمایند.[1][2][6]