الگوریتم «رتبه‌بندی پل‌ساز»: پلتفرم‌ها چگونه در بحث‌های کاربران، توافق را به جای تفرقه پاداش می‌دهند

در یک آزمایش کنترل‌شده که توسط دانشگاه کپنهاگ (University of Copenhagen) در ماه مه ۲۰۲۶ اجرا شد، محققان شاهد رخ دادن پدیده‌ای نادر در یک فید شبیه‌سازی‌شده شبکه‌های اجتماعی بودند: شرکت‌کنندگان لیبرال و محافظه‌کار واقعاً شروع به توافق کردند. این شرکت‌کنندگان در معرض یک الگوریتم استاندارد مبتنی بر تعامل (که پست‌های با بیشترین کلیک، پاسخ و خشم را در اولویت قرار می‌دهد) نبودند. در عوض، محتوایی به آن‌ها ارائه شد که توسط یک سیستم رتبه‌بندی پل‌ساز (bridging-based ranking) گزینش شده بود. همان‌طور که جیسون برتون (Jason Burton)، محقق ارشد، مشاهده کرد، الگوریتم پل‌ساز توافق بین شرکت‌کنندگان لیبرال و محافظه‌کار را افزایش داد و همزمان دقت قضاوت‌های واقعی آن‌ها را بهبود بخشید. ریاضیات زیربنایی این سیستم نشان داد که پلتفرم‌های اجتماعی برای نگه‌داشتن کاربران خود نیازی به ایجاد تفرقه بین آن‌ها ندارند.[3]

مکانیسمی که این همگرایی را هدایت می‌کند، یک تکنیک ریاضی به نام فاکتورگیری ماتریسی (matrix factorization) است. برخلاف سیستم‌های رأی‌گیری سنتی که در آن‌ها اکثریت ساده میزان دیده شدن را تعیین می‌کند، فاکتورگیری ماتریسی الگوهای پنهان را در مجموعه‌داده‌های بزرگ از امتیازات کاربران شناسایی می‌کند. این سیستم هم کاربران و هم محتوا را در یک فضای پنهان (latent space) مشترک نگاشت می‌کند. اگر کاربری دائماً به دیدگاه‌های محافظه‌کارانه رأی مثبت دهد، الگوریتم یک مختصات خاص در آن فضا به او اختصاص می‌دهد. اگر کاربر دیگری منحصراً به دیدگاه‌های لیبرال رأی مثبت دهد، در سمت مقابل قرار می‌گیرد. یک محتوا تنها زمانی به بازدید بالا دست می‌یابد که از سوی کاربرانی که از نظر ریاضی از یکدیگر فاصله دارند، امتیاز مثبت دریافت کند.[1][6][7]

برای درک نحوه عملکرد فاکتورگیری ماتریسی در عمل، یک صفحه گسترده (spreadsheet) عظیم را تصور کنید که در آن هر سطر نشان‌دهنده یک کاربر و هر ستون نشان‌دهنده یک قطعه محتوا است. سلول‌ها حاوی امتیازات کاربران هستند، اما از آنجا که هیچ کاربری به همه چیز امتیاز نمی‌دهد، اکثریت قریب به اتفاق این صفحه گسترده خالی است. وظیفه الگوریتم پیش‌بینی محتوای این سلول‌های خالی است. این کار با شکستن ماتریس عظیم و پراکنده به دو ماتریس کوچکتر و متراکم انجام می‌شود: یکی نشان‌دهنده ترجیحات پنهان کاربران و دیگری نشان‌دهنده ویژگی‌های پنهان محتوا. وقتی این دو ماتریس کوچکتر در هم ضرب می‌شوند، صفحه گسترده اصلی را تقریب می‌زنند و جاهای خالی را با امتیازات پیش‌بینی‌شده پر می‌کنند.[1][6]

ویژگی‌های پنهانی که توسط الگوریتم کشف می‌شوند، به عنوان عوامل پنهان (latent factors) شناخته می‌شوند. الگوریتم نمی‌داند «لیبرال» یا «محافظه‌کار» چیست؛ فقط می‌داند که گروه‌های خاصی از کاربران دائماً در مخالفت با یکدیگر رأی می‌دهند. اگر کاربر الف و کاربر ب سابقه‌ای از امتیازدهی کاملاً متضاد به پست‌های دقیقاً یکسان داشته باشند، الگوریتم آن‌ها را در فضای پنهان با فاصله زیادی از هم قرار می‌دهد. یک الگوریتم پل‌ساز به دنبال محتواهای نادری می‌گردد که هم کاربر الف و هم کاربر ب به آن‌ها امتیاز بالایی داده باشند. وقتی این اتفاق می‌افتد، الگوریتم آن محتوا را به عنوان محتوایی با پتانسیل پل‌سازی بالا علامت‌گذاری می‌کند، زیرا با موفقیت از یک شکاف ریاضی عبور کرده است.[1]

این الزام برای توافق فراحزبی، موتور محرک ویژگی یادداشت‌های جامعه (Community Notes) در پلتفرم ایکس (X) است که در ژانویه ۲۰۲۱ با نام Birdwatch راه‌اندازی شد و در نوامبر ۲۰۲۲ تغییر نام داد. این پلتفرم به جای یک اتاق خبر متمرکز، قضاوت تحریریه را در میان یک پایگاه عظیم از داوطلبان توزیع می‌کند. وقتی یک مشارکت‌کننده یادداشتی زمینه‌ای روی یک پست بالقوه گمراه‌کننده می‌نویسد، الگوریتم صرفاً رأی‌های مثبت را نمی‌شمارد. بلکه سابقه امتیازدهی هر کاربری که به آن یادداشت رأی می‌دهد را ارزیابی می‌کند. برای دستیابی به وضعیت «در حال حاضر مفید ارزیابی شده» (Currently Rated Helpful) - آستانه مورد نیاز برای نمایش عمومی یادداشت در زیر یک پست - یادداشت باید توافق رأی‌دهندگانی را کسب کند که معمولاً در موضوعات دیگر با هم اختلاف نظر دارند.[1]

این مانع ریاضی برای ورود، نحوه تعامل کاربران با سیستم را اساساً تغییر می‌دهد. از آنجا که بلوک‌های حزبی نمی‌توانند صرفاً با سازماندهی یک کمپین رأی‌گیری دسته‌جمعی، یک یادداشت را به زور در معرض دید عموم قرار دهند، مشارکت‌کنندگان انگیزه پیدا می‌کنند تا یادداشت‌هایی بنویسند که برای مخاطبان گسترده‌تری جذاب باشد. آن‌ها باید لفاظی‌های تحریک‌آمیز را کنار بگذارند و بر شواهد قابل تاییدی تمرکز کنند که یک فرد شکاک نیز آن را بپذیرد. یادداشت‌هایی که نتوانند به این توافق فراحزبی دست یابند، در دسته‌بندی «در حال حاضر غیرمفید ارزیابی شده» (Currently Rated Not Helpful) قرار می‌گیرند و صرف‌نظر از اینکه چند رأی مثبت از یک جناح ایدئولوژیک واحد دریافت کرده‌اند، از دید عموم پنهان می‌مانند.[1]

فراتر از راستی‌آزمایی در شبکه‌های اجتماعی، الگوریتم‌های پل‌ساز به طور فزاینده‌ای برای میانجی‌گری در درگیری‌های دنیای واقعی استفاده می‌شوند. بین آوریل و ژوئیه ۲۰۲۴، اتحاد برای صلح خاورمیانه (Alliance for Middle East Peace) یک پلتفرم مبتنی بر پل‌سازی به نام Pol.is را برای تسهیل گفت‌وگو میان ۱۳۸ فعال مدنی صلح‌ساز، از جمله یهودیان اسرائیلی، شهروندان فلسطینی اسرائیل و فلسطینی‌های کرانه باختری و غزه مستقر کرد. شرکت‌کنندگان اظهارات کوتاهی درباره آنچه باید در آینده در منطقه رخ دهد ارائه کردند و دیگران برای موافقت یا مخالفت رأی دادند. الگوریتم، شرکت‌کنندگان را کاملاً بر اساس الگوهای رأی‌دهی‌شان در خوشه‌های مجزا دسته‌بندی کرد و دقیقاً مشخص کرد که گسل‌های ایدئولوژیک در کجا قرار دارند.[2]

به جای برجسته کردن اظهاراتی که بیشترین تفرقه را ایجاد می‌کردند - کاری که یک فید اجتماعی استاندارد انجام می‌دهد - الگوریتم Pol.is پیشنهادهای خاصی را شناسایی کرد که تأیید متنوعی را در میان گروه‌های عمیقاً دچار اختلاف به دست آورده بودند. این فرآیند مجموعه‌ای از خواسته‌های جمعی از رهبران جهان را ایجاد کرد که حداقل ۸۴ درصد توافق شرکت‌کنندگان از هر طرف را برای هر خواسته تضمین می‌کرد. با اولویت‌بندی ریاضی توافق بر درگیری، این ابزار به تسهیل‌گران اجازه داد تا از بلندترین و افراطی‌ترین صداها عبور کنند و زمینه مشترک واقعی را که در زیر سطح بحث وجود داشت، بیابند.[2]

با وجود ظرفیت آن‌ها برای ایجاد توافق، مدل‌های فاکتورگیری ماتریسی از دستکاری مصون نیستند. از آنجا که الگوریتم موقعیت ایدئولوژیک یک کاربر را کاملاً بر اساس سابقه امتیازدهی او تعیین می‌کند، بازیگران مخرب از نظر تئوری می‌توانند شخصیت‌های جعلی بسازند. در تحلیلی در سال ۲۰۲۶ که در کنفرانس بین‌المللی یادگیری ماشین (International Conference on Machine Learning) ارائه شد، محققان نشان دادند که یک گروه هماهنگ می‌تواند با گزینش دقیق رأی‌های اولیه خود، موقعیت‌های متنوعی را در فضای عوامل پنهان ایجاد کند. این حساب‌های هماهنگ با قرار دادن مصنوعی خود در دو سوی طیف ایدئولوژیک، می‌توانند با هم به یک یادداشت هدف رأی دهند و الگوریتم را فریب دهند تا یک توافق فراحزبی کاذب را درک کند.

محققان دریافتند که این نوع حمله توافق مصنوعی (synthetic consensus attack) برای اجرای موفقیت‌آمیز به منابع بسیار کمی نیاز دارد. بر اساس تحلیل تجربی آن‌ها از داده‌های تولیدی، تا ۱۰٫۷ درصد از نمرات کیفیت یادداشت‌ها می‌توانند با استفاده از کمتر از ۱۰ حساب هماهنگ، به بالای آستانه توافق دستکاری شوند. از آنجا که الگوریتم‌های پل‌ساز بر این فرض اساسی تکیه دارند که کاربرانی با سوابق متضاد، بازیگرانی واقعاً مستقل هستند، یک شبکه هماهنگ که با موفقیت ارتباطات خود را پنهان می‌کند، می‌تواند مکانیسم دفاعی اولیه سیستم را دور بزند و محتوای حزبی را به زور در معرض دید عموم قرار دهد.

برای دفاع در برابر این آسیب‌پذیری‌ها، مهندسان در حال توسعه مدل‌های ریاضی پیچیده‌تری هستند که صرفاً به سابقه خام رأی‌گیری متکی نیستند. در آوریل ۲۰۲۶، محققان سیستمی به نام فاکتورگیری ماتریسی حساس به کیفیت (Quality-Sensitive Matrix Factorization) را پیشنهاد کردند که یک پارامتر حساسیت به کیفیت برای هر رأی‌دهنده به الگوریتم استاندارد اضافه می‌کند. این پارامتر به طور پویا اندازه‌گیری می‌کند که امتیازات تعدیل‌شده با ایدئولوژی یک کاربر تا چه حد با توافق کلی همسو است. اگر کاربری مکرراً به روش‌هایی رأی دهد که با الگوهای گسترده‌تر ایجاد شده توسط بقیه شبکه در تضاد باشد، الگوریتم به تدریج تأثیر او را بر نتیجه نهایی کاهش می‌دهد.[5]

این مدل ارتقا یافته که روی ۴۵ میلیون امتیاز در ۳۶۵ هزار یادداشت از شش ماه قبل از انتخابات ریاست جمهوری ۲۰۲۴ ایالات متحده ارزیابی شد، مقاومت بالایی از خود نشان داد. این مدل با موفقیت رأی‌دهندگان خوب را از بد با معیار دقتی بالاتر از ۰٫۹۴ جدا کرد و برای تخمین دقیق کیفیت واقعی یک یادداشت به ۲۶ تا ۴۰ درصد امتیازات کمتری نیاز داشت. در حملات هماهنگ شبیه‌سازی‌شده، مدل حساس به کیفیت توانایی بازیگران مخرب را برای جابجایی تخمین‌های کیفیت واقعی یادداشت‌های هدف به میزان قابل‌توجهی کاهش داد و یک سیستم ایمنی ریاضی در برابر توافق مصنوعی فراهم کرد.[5]

تکامل سریع الگوریتم‌های پل‌ساز نشان‌دهنده یک چرخش اساسی در نحوه اداره فضاهای دیجیتال است. سال‌هاست که فرض بر این بوده که الگوریتم‌ها ذاتاً باعث قطبی‌سازی می‌شوند، زیرا تفرقه سودآورترین تعامل را ایجاد می‌کند. استقرار فاکتورگیری ماتریسی ثابت می‌کند که این یک انتخاب طراحی است، نه یک اجتناب‌ناپذیری تکنولوژیک. با تغییر تعریف ریاضی یک پست موفق از «بیشترین تعامل» به «بیشترین توافق گسترده»، پلتفرم‌ها می‌توانند به طور سیستماتیک به توافق پاداش دهند. مرحله بعدی توسعه تعیین خواهد کرد که آیا این سیستم‌ها می‌توانند یکپارچگی خود را در حین مقیاس‌پذیری برای مدیریت میلیاردها تعامل روزانه حفظ کنند یا خیر.[4][7]