چگونه دستیاران نوشتاری هوش مصنوعی به آرامی در حال بازنویسی افکار عمومی هستند

ما در حال ورود به عصر ارتباطات با واسطه هوش مصنوعی هستیم. در پلتفرم‌هایی مانند لینکدین، X و فیس‌بوک، ابزارهای هوش مصنوعی مولد به طور فزاینده‌ای مستقیماً در کادر متن (text box) تعبیه شده‌اند و پیشنهاد می‌دهند که افکار ما را قبل از ارسال «صیقل دهند»، «بازنویسی کنند» یا «حرفه‌ای سازند». برای میلیون‌ها کاربر، این مدل‌های زبان بزرگ (LLM) به عنوان ویراستاران دیجیتال مفیدی عمل می‌کنند که عبارات نامناسب را اصلاح کرده و دستور زبان را تصحیح می‌کنند. اما تحقیقات رو به رشدی نشان می‌دهد که این ابزارها فراتر از رفع اشتباهات تایپی عمل می‌کنند؛ آنها به طور فعال در حال بازنویسی محتوای ایدئولوژیک گفتمان عمومی ما هستند.

یک مطالعه مهم که این هفته توسط مؤسسه اینترنت آکسفورد (Oxford Internet Institute) و مؤسسه هاسو پلاتنر (Hasso Plattner Institute) منتشر شد، نشان می‌دهد که مدل‌های زبان بزرگ به طور سیستماتیک جهت‌گیری پست‌های رسانه‌های اجتماعی را در مورد موضوعات مورد مناقشه تغییر می‌دهند. این تحقیق که در کنفرانس بین‌المللی یادگیری ماشین در سئول ارائه شد، نشان داد که وقتی کاربران به یک هوش مصنوعی دستور می‌دهند پستی را در مورد مسائل حساس – مانند کنترل اسلحه، فمینیسم یا مجازات اعدام – بازنویسی کند، مدل به طور مداوم متن را به سمت یک خط مشی ایدئولوژیک خاص سوق می‌دهد. نکته حیاتی این است که این اتفاق حتی زمانی رخ می‌دهد که کاربر صراحتاً به هوش مصنوعی دستور می‌دهد معنای اصلی پیامش را حفظ کند.[1]

محققان این پدیده را به عنوان شکلی نامحسوس اما فراگیر از هدایت افکار توصیف می‌کنند. هوش مصنوعی آشکارا با کاربر مخالفت نمی‌کند؛ بلکه استدلال‌های خاصی را نرم‌تر می‌کند، موارد حاشیه‌ای خاصی را حذف می‌کند، یا ملاحظاتی را معرفی می‌کند که با محدودیت‌های ایمنی و داده‌های آموزشی توسعه‌دهندگان آن همسو هستند. در یک پست واحد، این تغییر ممکن است ناچیز به نظر برسد. اما تیم آکسفورد از مدل‌سازی ریاضی و داده‌های شبکه اجتماعی واقعی استفاده کردند تا شبیه‌سازی کنند که وقتی این تنظیمات جزئی در مقیاس بزرگ به کار گرفته شوند، چه اتفاقی می‌افتد.[1]

شبیه‌سازی‌ها یک اثر ترکیبی را نشان دادند. از آنجایی که رسانه‌های اجتماعی به تقویت شبکه‌ای متکی هستند، سوگیری‌های نامحسوسی که توسط ویراستاران هوش مصنوعی معرفی می‌شوند، در میلیون‌ها تعامل انباشته می‌شوند. همانطور که کاربران این پست‌های صیقل‌یافته توسط هوش مصنوعی را می‌خوانند و به آنها واکنش نشان می‌دهند، افکار و پاسخ‌های بعدی خودشان نیز تحت تأثیر چارچوب‌بندی تغییریافته قرار می‌گیرد. با گذشت زمان، این حلقه ارتباطی با واسطه هوش مصنوعی می‌تواند به تدریج نظر جمعی کل جوامع آنلاین را تغییر دهد و اجماع عمومی را به سمت مرکز ثقل ایدئولوژیک تعبیه‌شده در مدل‌های زبان بکشاند.[1]

این پویایی، هوش مصنوعی را از یک ابزار خنثی به یک مشارکت‌کننده فعال در ارتباطات انسانی تبدیل می‌کند. محققان هشدار می‌دهند که این مکانیسمی جدید و بسیار مؤثر برای تأثیرگذاری بر گفتمان عمومی است – مکانیسمی که کاملاً زیر سطح بحث آگاهانه عمل می‌کند. برخلاف تبلیغات سنتی، که تلاش می‌کند کاربران را با استدلال‌های خارجی متقاعد کند، هدایت با واسطه هوش مصنوعی، صدای خود کاربر را قبل از اینکه حتی به فضای عمومی برسد، تغییر می‌دهد.[8]

منبع این سوگیری عمیقاً در نحوه ساخت سیستم‌های هوش مصنوعی مدرن ریشه دارد. مدل‌های زبان بزرگ بر اساس حجم عظیمی از داده‌های اینترنت آموزش دیده‌اند و روایت‌های غالب، مفروضات فرهنگی و تمایلات سیاسی داده‌های آموزشی خود را جذب می‌کنند. در طول فرآیند تنظیم دقیق (fine-tuning)، توسعه‌دهندگان از یادگیری تقویتی استفاده می‌کنند تا مدل‌ها را «مفید و بی‌ضرر» سازند، که اغلب به طور پیش‌فرض به نوعی پیشرفت‌گرایی مؤدبانه و تکنوکراتیک منجر می‌شود. در نتیجه، مدل‌ها به طور طبیعی در برابر تقویت دیدگاه‌های حاشیه‌ای، تهاجمی یا بسیار قطبی مقاومت می‌کنند و آنها را به آرامی به اظهاراتی تبدیل می‌کنند که از نظر اجتماعی قابل قبول‌تر – و از نظر ایدئولوژیک یکنواخت‌تر – هستند.[6]

این یکسان‌سازی فراتر از کاربران عادی که پست می‌نویسند، گسترش می‌یابد. یک مطالعه اخیر از دانشگاه کوئینزلند نشان داد که سوگیری هوش مصنوعی به سیستم‌هایی که برای تعدیل محتوای آنلاین استفاده می‌شوند نیز نفوذ می‌کند. محققان از چندین مدل بصری و زبانی خواستند تا هزاران پست بالقوه نفرت‌انگیز را از طریق لنز شخصیت‌های مختلف هوش مصنوعی ارزیابی کنند. آنها دریافتند که اختصاص یک شخصیت به یک ربات چت هوش مصنوعی، دقت و فراخوانی آن را مطابق با تمایلات ایدئولوژیک خاص تغییر می‌دهد، به این معنی که سیستم‌های تعدیل خودکار ذاتاً هنگام تصمیم‌گیری در مورد اینکه چه محتوایی مجاز به باقی ماندن آنلاین است، به سمت دیدگاه‌های خاصی متمایل می‌شوند.[2]

هنگامی که این ابزارها به طور عمدی به عنوان سلاح استفاده می‌شوند، پیامدها حتی جدی‌تر می‌شوند. در حالی که مطالعه آکسفورد بر سوگیری تصادفی دستیاران نوشتاری مفید تمرکز داشت، محققان دیگر در حال پیگیری استفاده عمدی از هوش مصنوعی برای ایجاد اجماع ساختگی هستند. مطالعه‌ای که در کنفرانس وب ۲۰۲۶ توسط دانشگاه کالیفرنیای جنوبی منتشر شد، رفتار عاملان مدل زبان بزرگ (LLM) شبکه‌ای را مدل‌سازی کرد. محققان دریافتند که انبوهی از ربات‌های هوش مصنوعی می‌توانند به طور مستقل برای انتشار روایت‌های خاص در پلتفرم‌ها هماهنگ شوند و با تقویت یکدیگر، توهم یک جنبش مردمی گسترده را ایجاد کنند.[3]

این تغییر از ترولینگ مبتنی بر انسان به هماهنگی مبتنی بر هوش مصنوعی، چیزی است که محققان آن را صنعتی شدن اطلاعات نادرست می‌نامند. از لحاظ تاریخی، محدودیت اصلی در عملیات نفوذ خارجی، نیروی کار انسانی بود – استخدام افراد کافی برای نوشتن پست‌های متقاعدکننده به زبان هدف. امروزه، تنها محدودیت، قدرت محاسباتی است. عاملان خودمختار اکنون می‌توانند محیط اطلاعاتی را درک کنند، در مورد محرک‌های روان‌شناختی استدلال کنند و محتوای سفارشی و چندزبانه را به صورت شبانه‌روزی تولید کنند.[5]

قدرت متقاعدکنندگی این سیستم‌ها از قبل قابل اندازه‌گیری است. در یک آزمایش اخیر که در انجمن‌های بحث و گفتگوی ردیت (Reddit) انجام شد، محققان ربات‌های مجهز به مدل زبان بزرگ (LLM) را برای بحث با کاربران انسانی به کار گرفتند. عوامل هوش مصنوعی ثابت کردند که سه تا شش برابر متقاعدکننده‌تر از اپراتورهای انسانی هستند و با موفقیت ذهن کاربران واقعی را در مورد مسائل پیچیده سیاست تغییر دادند. نکته نگران‌کننده این است که سیستم‌های تشخیص پلتفرم تنها بخش کوچکی از این ربات‌ها را شناسایی کردند، و معمولاً تنها پس از شکایت تعدیل‌کنندگان انسانی.[7]

بازیگران دولتی در حال حاضر از این آسیب‌پذیری‌ها سوءاستفاده می‌کنند. یک تحلیل اخیر نشان داد که چگونه کنترل رسانه‌های دولتی مستقیماً بر خروجی‌های مدل زبان بزرگ (LLM) تأثیر می‌گذارد. محققان دریافتند مدل‌هایی که بر اساس اکوسیستم‌های اطلاعاتی به شدت آلوده آموزش دیده‌اند – جایی که رسانه‌های تحت حمایت دولت از رسانه‌های مشروع تقلید می‌کنند – محتوای دستکاری شده توسط دولت را به طور مؤثر به متنی ظاهراً عینی تبدیل می‌کنند. هنگامی که کاربران از این مدل‌ها پرس و جو می‌کنند، هوش مصنوعی تبلیغات را از منبع آن جدا می‌کند و لفاظی‌های دولتی را به عنوان اطلاعاتی خنثی و واقعی ارائه می‌دهد.[4]

ماهیت فراگیر محتوای تولید شده توسط هوش مصنوعی منجر به پدیده‌ای شده است که محققان آن را «پارادوکس هوش مصنوعی مولد» می‌نامند. از آنجایی که کاربران به طور فزاینده‌ای آگاه می‌شوند که متن، تصاویر و استدلال‌هایی که به صورت آنلاین با آنها مواجه می‌شوند ممکن است ساختگی باشند، شک و تردید آنها به محتوای معتبر نیز گسترش می‌یابد. این فرسایش اعتماد به این معناست که بازیگران منطقی ممکن است شروع به نادیده گرفتن تمام شواهد دیجیتال کنند و واقعیت مشترک مورد نیاز برای بحث دموکراتیک را از هم بپاشند.[8]

با وجود این چالش‌ها، چشم‌انداز دفاعی در حال تحول است. کنسرسیوم‌هایی مانند پروژه AI4Trust که توسط اروپا تأمین مالی می‌شود، در حال توسعه مدل‌های زبان بزرگ تخصصی هستند که برای تشخیص نشانگرهای زبانی نامحسوس اطلاعات نادرست ساختگی طراحی شده‌اند. این مدل‌های دفاعی به جای جستجوی صرف اشتباهات واقعی، روابط بین کلمات و مفاهیم را تجزیه و تحلیل می‌کنند و دستکاری عاطفی و الگوهای هماهنگ‌شده‌ای را که مشخصه تبلیغات تولید شده توسط هوش مصنوعی هستند، شناسایی می‌کنند.[8]

در نهایت، ظهور ارتباطات با واسطه هوش مصنوعی، ما را مجبور می‌کند تا در مورد نحوه مصرف و تولید اطلاعات تجدید نظر کنیم. در طول دو دهه گذشته، رسانه‌های اجتماعی با حذف دروازه‌بان‌های سنتی و اجازه دادن به هر کسی برای پخش دیدگاه‌های خود، افکار عمومی را دموکراتیزه کردند. اکنون، مدل‌های زبان بزرگ به عنوان یک نیروی تکنوکراتیک قدرتمند جدید در حال ظهور هستند که به طور نامحسوس لایه‌ای از کنترل ویراستاری را بر فضای عمومی دیجیتال تحمیل می‌کنند.[6]

پیمایش در این محیط جدید نیازمند جهشی عظیم در سواد هوش مصنوعی است. کاربران باید شروع به رفتار با هوش مصنوعی مولد نه به عنوان یک ماشین حساب خنثی که صرفاً متن را قالب‌بندی می‌کند، بلکه به عنوان یک ویراستار فعال و دارای عقیده با جهان‌بینی تعبیه‌شده خود، کنند. از آنجایی که این ابزارها به طور یکپارچه در بافت ارتباطات روزمره ما ادغام می‌شوند، حفظ اصالت گفتمان انسانی به توانایی ما در تشخیص این امر بستگی دارد که چه زمانی کلمات خودمان دیگر کاملاً متعلق به ما نیستند.[1][8]