چرا الگوریتم «یادداشت‌های کاربران» برای انتشار یک راستی‌آزمایی به اجماع فراحزبی نیاز دارد؟

مدت‌ها پیش از آنکه یک راستی‌آزمایی جمع‌سپاری‌شده زیر یک پست گمراه‌کننده در شبکه‌های اجتماعی ظاهر شود، سیستم یک عملیات ریاضی به نام «فاکتورگیری ماتریسی» (matrix factorization) را روی کاربرانی که به آن رأی می‌دهند اجرا می‌کند. این مرحله، هر مشارکت‌کننده را بر اساس رفتار رأی‌دهی گذشته‌اش، بدون اینکه هرگز گرایش سیاسی او را بپرسد، روی یک طیف ایدئولوژیک پنهان ترسیم می‌کند.

در واقع این همان مرحله‌ای است که تعیین می‌کند آیا یک یادداشت منتشر خواهد شد یا خیر، زیرا قواعد اجماع را از اساس تغییر می‌دهد. الگوریتم به جای شمارش تعداد افرادی که موافق مفید بودن یک یادداشت هستند، محاسبه می‌کند که آیا افرادِ موافق، معمولاً با یکدیگر اختلاف نظر دارند یا خیر. فاکتورگیری ماتریسی با تفکیک و حذف غریزه قبیله‌گرایی از رأی، تضمین می‌کند که یک یادداشت تنها در صورتی بقا می‌یابد که بتواند پلی روی این شکاف بزند.[2][3]

این سازوکار که در حال حاضر توسط ایکس (X) در مقیاس وسیع و تحت عنوان «یادداشت‌های کاربران» (Community Notes) پیاده‌سازی شده، نشان‌دهنده یک تغییر ساختاری نسبت به نظارت سنتی بر محتوا است. این سیستم که در ابتدا با نام Birdwatch در ژانویه ۲۰۲۱ راه‌اندازی شد و در سال ۲۰۲۳ در سطح جهانی گسترش یافت، اکنون به حدود ۱۳۳,۰۰۰ مشارکت‌کننده تأییدشده متکی است.

وقتی کاربری پستی را به عنوان محتوای گمراه‌کننده گزارش می‌کند، یک یادداشت زمینه‌ای برای آن می‌نویسد. سپس سایر مشارکت‌کنندگان به آن یادداشت رأی «مفید» یا «غیرمفید» می‌دهند. در یک سیستم رأی‌گیری استاندارد، جامعه‌ای با اکثریت حزبی ۸۰ درصدی به سادگی اقلیت را در رأی‌گیری شکست می‌دهد و زمینه‌های دقیق اما از نظر ایدئولوژیک نامطلوب را دفن می‌کند.[6]

برای جلوگیری از حاکمیت اکثریت، این الگوریتم از رتبه‌بندی مبتنی بر پُل‌زنی (bridging-based ranking) استفاده می‌کند؛ مفهومی که توسط پژوهشگرانی مانند آویو اوادیا (Aviv Ovadya) در مرکز بلفر مدرسه کندی هاروارد ترویج شده است. این سیستم کل شبکه کاربران و یادداشت‌هایی که به آن‌ها رأی داده‌اند را تجزیه و تحلیل می‌کند.

الگوریتم به دنبال یک عامل پنهان (latent factor) می‌گردد که بیشترین واریانس را در الگوهای رأی‌دهی توضیح دهد. اگرچه الگوریتم این عامل را با برچسب‌های «چپ‌گرا» یا «راست‌گرا» مشخص نمی‌کند، اما خروجی ریاضی آن کاملاً بازتاب‌دهنده قطبی‌سازی ایدئولوژیک اصلی پلتفرم است. به هر کاربر یک امتیاز قطبیت در امتداد این محور اختصاص داده می‌شود.[2]

زمانی که سیستم قطبیت یک کاربر را درک کند، می‌تواند پیش‌بینی کند که او به هر یادداشت خاصی چگونه رأی خواهد داد. اگر یک کاربر به شدت حزبی به یادداشتی رأی مثبت دهد که با جهان‌بینی تثبیت‌شده‌اش همسو است، الگوریتم ارزش آن رأی را کاهش می‌دهد.

عرض از مبدأ ریاضی (intercept) — یعنی آن بخش از رأی که با سوگیری حزبی کاربر قابل توضیح نیست — به امتیاز واقعی مفید بودن یادداشت تبدیل می‌شود. همان‌طور که در مستندات رسمی آمده است، یک یادداشت تنها در صورتی عمومی می‌شود که «تعداد کافی از مشارکت‌کنندگان با دیدگاه‌های مختلف، آن یادداشت را مفید ارزیابی کنند.»[2][3]

رأی‌های منفی نیز تحت همین محدودیت‌های ریاضی عمل می‌کنند. اگر کاربری به یادداشتی صرفاً به این دلیل که با گرایش سیاسی‌اش در تضاد است رأی منفی بدهد، الگوریتم این الگو را تشخیص داده و رأی منفی را در عامل قطبیت جذب می‌کند. در این حالت، امتیاز بنیادین مفید بودن یادداشت دست‌نخورده باقی می‌ماند.

برای دفن موفقیت‌آمیز یک یادداشتِ واقعاً مفید، یک مهاجم باید بدون توجه به سیاست، به طور مداوم به محتوای مفید رأی منفی و به محتوای غیرمفید رأی مثبت بدهد — استراتژی‌ای که به سرعت او را به جای یک خوشه سیاسی، در یک خوشه «کیفیت پایین» منزوی می‌کند.[2]

پیامدهای این سیستم برای دیده شدن محتوا کاملاً قطعی است. بر اساس تحلیل ماه مه ۲۰۲۶ توسط Tweet Hunter، پست‌هایی که یک یادداشت کاربریِ قابل مشاهده دریافت می‌کنند، ۶۱ درصد کمتر بازنشر می‌شوند. این جریمه الگوریتمی عملاً دسترسی به محتوای پرچم‌گذاری‌شده را نابود می‌کند. از آنجا که این پیامد بسیار شدید است، الزام به اجماع فراحزبی به عنوان یک محافظ ضروری در برابر حملات گروهی (brigading) عمل می‌کند.

یک حمله هماهنگ توسط هزاران حساب کاربری جعلی (sock-puppet) نمی‌تواند صرفاً با رأی مثبت دادن، یک یادداشت را در معرض دید عموم قرار دهد، زیرا فاکتورگیری ماتریسی آن حساب‌ها را در یک گروه قرار داده و الگوی رأی‌دهی یکپارچه آن‌ها را به عنوان یک بلوک حزبی واحد نادیده می‌گیرد.[4]

دقت یادداشت‌های حاصل‌شده به طرز چشمگیری بالاست. مطالعه‌ای که یادداشت‌های مربوط به واکسن کووید-۱۹ منتشر شده بین سال‌های ۲۰۲۲ و ۲۰۲۳ را ارزیابی کرد، نشان داد که این یادداشت‌ها در صورت بررسی توسط متخصصان پزشکی، در ۹۷ درصد مواقع دقیق بوده‌اند. الگوریتم پُل‌زننده با حذف کارمندان پلتفرم از نقش داوران حقیقت، موفق می‌شود راستی‌آزمایی را بدون تبدیل شدن به یک مسابقه محبوبیت، جمع‌سپاری کند.[5][6]

با این حال، الزام سخت‌گیرانه برای اجماع فراحزبی یک مشکل تأخیر (latency) جدی ایجاد می‌کند. از آنجا که یک یادداشت به رأی مثبت کاربرانی نیاز دارد که از نظر تاریخی با هم اختلاف نظر دارند، ادعاهای نادرستِ به شدت قطبی‌کننده اغلب برای ساعت‌ها یا روزها بدون یادداشت باقی می‌مانند، در حالی که الگوریتم منتظر است تا جناح‌های مخالف به توافق برسند.

در موارد اطلاعات نادرستِ ظریف، اجماع به سرعت شکل می‌گیرد. اما در موارد اختلافات سیاسی عمیقاً ریشه‌دار، آستانه پُل‌زنی ممکن است هرگز برآورده نشود و ادعای نادرست کاملاً بدون بررسی باقی بماند.[5]

این تأخیر با این واقعیت تشدید می‌شود که مدل فعلی، پس از در نظر گرفتن ایدئولوژی، به همه رأی‌دهندگان تأثیر یکسانی در تخمین کیفیت می‌دهد. کاربری که هزاران یادداشت را به دقت ارزیابی کرده است، دقیقاً همان وزن ریاضی را دارد که کاربری به تازگی امتیاز رأی دادن را به دست آورده است. این رویکرد برابری‌طلبانه سیستم را در برابر نخبه‌گرایی محافظت می‌کند، اما تخمین کیفیت را در برابر رأی‌دهندگان پر سر و صدا یا استراتژیکی که عمداً برای به تأخیر انداختن اجماع به طور نامنظم رأی می‌دهند، آسیب‌پذیر می‌سازد.[1]

پژوهشگران به طور فعال در تلاشند تا این مشکل کارایی نمونه را حل کنند. در آوریل ۲۰۲۶، تیمی از دانشگاه استنفورد — متشکل از موهاک گویال (Mohak Goyal)، نیشکا آرورا (Nishka Arora) و آشیش گوئل (Ashish Goel) — یک ارتقای پیشنهادی به نام «فاکتورگیری ماتریسی حساس به کیفیت» (Quality-Sensitive Matrix Factorization) را منتشر کردند.

مدل آن‌ها یک پارامتر جدید برای هر رأی‌دهنده معرفی می‌کند که «حساسیت به کیفیت» او را می‌سنجد. تیم استنفورد با ارزیابی ۴۵ میلیون رأی در ۳۶۵,۰۰۰ یادداشت از شش ماهِ پیش از انتخابات ریاست جمهوری ۲۰۲۴ ایالات متحده، نشان داد که دادن وزن کمی بیشتر به رأی‌دهندگانِ همواره دقیق می‌تواند این روند را به شدت تسریع کند.[1]

اصلاحیه استنفورد برای رسیدن به دقت الگوریتم پایه در یادداشت‌های پربازدید، به ۲۶ تا ۴۰ درصد رأی کمتری نیاز دارد. نکته مهم این است که این مدل بدون اتکا به حقیقتِ پایه خارجی یا نظارت دستی به این هدف دست می‌یابد.

در عوض، کاربرانی را شناسایی می‌کند که رأی‌های تعدیل‌شده با ایدئولوژیِ آن‌ها به طور مداوم با اجماع نهایی همسو است، و تأثیر آن‌ها را در اوایل پنجره رأی‌گیری تقویت می‌کند. این امر به سیستم اجازه می‌دهد تا یادداشت‌های مفید را سریع‌تر نمایان کند و پنجره زمانی که در آن اطلاعات نادرستِ وایرال بدون بررسی پخش می‌شوند را ببندد.[1]

ماهیت متن‌باز بودن الگوریتم «یادداشت‌های کاربران» اجازه داده است که این بحث‌های ریاضی در فضای عمومی انجام شود. کد اصلی که در گیت‌هاب (GitHub) میزبانی می‌شود، پروژه‌های مشتقی مانند Open Notes را به وجود آورده است که الگوریتم پُل‌زننده را برای پلتفرم‌هایی مانند Discourse و Discord تطبیق می‌دهد.

رویکرد فاکتورگیری ماتریسی با اثبات اینکه فیلترسازی مشارکتی می‌تواند به جای صرفِ درگیری (engagement)، اجماع را شناسایی کند، اولین جایگزین مقیاس‌پذیر را برای نظارت از بالا به پایین ارائه کرده است. چالش مهندسی بعدی صرفاً این است که آن را به قدری سریع کنند که پیش از وارد شدن آسیب، یک پست وایرال را متوقف کند.[3][7]