رفتن به محتوای اصلی
توضیح کوهستانطراحی الگوریتمیتحلیل و توضیح۱۱ شهریور ۱۴۰۵، ۲۱:۳۱· 6 دقیقه مطالعه

مکانیسم الگوریتم‌های پل‌ساز: چگونه ریاضیات می‌تواند قطب‌بندی دیجیتال را به طور ساختاری مهار کند

الگوریتم‌های پل‌ساز با پاداش دادن ریاضیاتی به محتوایی که در میان شکاف‌های ایدئولوژیک تأیید کسب می‌کند، یک درمان ساختاری برای اقتصاد تعامل مبتنی بر خشم ارائه می‌دهند.

به قلم رسول توکلی

محققان دموکراسی محاسباتی 40%تیم‌های اعتماد و ایمنی پلتفرم 35%حسابرسان الگوریتم 25%
محققان دموکراسی محاسباتی
از الگوریتم‌های پل‌ساز به عنوان یک درمان ساختاری برای قطب‌بندی دیجیتال دفاع می‌کنند.
تیم‌های اعتماد و ایمنی پلتفرم
بر اجرای عملی و کاهش آسیب‌پذیری سیستم‌های پل‌ساز تمرکز دارند.
حسابرسان الگوریتم
خطرات پایداری و آسیب‌پذیری‌های دستکاری مدل‌های اجماع را برجسته می‌کنند.

فضای اینترنت بیش از هر زمان دیگری خشمگین به نظر می‌رسد و به سادگی می‌توان تصور کرد که ماهیت انسان در حال فروپاشی است. اما واقعیت بسیار مکانیکی‌تر است: معماری توجه ما به گونه‌ای مهندسی شده که به تفرقه پاداش دهد. در طول دهه گذشته، میدان عمومی دیجیتال توسط «الگوریتم‌های تعامل» اداره شده است—مدل‌های ریاضیاتی که برای پیش‌بینی و به حداکثر رساندن کلیک‌ها، لایک‌ها و اشتراک‌گذاری‌ها طراحی شده‌اند. از آنجا که خشم و خصومت با گروه‌های بیرونی مطمئن‌ترین محرک‌های تعامل انسانی هستند، این الگوریتم‌ها به طور ساختاری به خصومت پاداش می‌دهند. آن‌ها مانند یک گوه عمل کرده و کاربران را به سمت اردوگاه‌های به شدت قطبی‌شده سوق می‌دهند. اما یک انقلاب آرام در دموکراسی محاسباتی در حال اثبات این است که این پویایی یک انتخاب طراحی است، نه یک سرنوشت محتوم.[2]

در اینجا «الگوریتم پل‌ساز» وارد می‌شود. رتبه‌بندی مبتنی بر پل‌سازی، به جای بهینه‌سازی برای حجم خام تعامل، برای اجماع بهینه‌سازی می‌کند. این یک چارچوب ریاضیاتی است که برای شناسایی آن بخش‌های نادر اطلاعاتی طراحی شده که از افرادی که معمولاً با هم مخالف هستند، تأیید کسب می‌کنند. اگر یک الگوریتم تعامل می‌پرسد: «چند نفر این را پسندیدند؟»، یک الگوریتم پل‌ساز می‌پرسد: «آیا ترکیب درستی از افراد مخالف این را پسندیدند؟»[2]

مکانیسم پل‌سازی بر تکنیکی به نام «تجزیه ماتریسی» (Matrix Factorization) متکی است. پیش از آنکه یک الگوریتم بتواند به توافق فراتر از جناح‌ها پاداش دهد، ابتدا باید شکاف‌های ایدئولوژیک پایگاه کاربران خود را نقشه‌برداری کند. این کار را بدون پرسیدن وابستگی سیاسی افراد انجام می‌دهد. در عوض، رفتار رأی‌دهی گذشته را تحلیل می‌کند—چه کسی به چه چیزی رأی مثبت و چه کسی رأی منفی داده است. با پردازش میلیون‌ها مورد از این تعاملات، الگوریتم کاربران را در یک «فضای عقیدتی» چندبعدی ترسیم کرده و کسانی را که رفتار مشابهی دارند، خوشه‌بندی می‌کند.[5]

هنگامی که الگوریتم خوشه‌های پنهان را درک کرد، قوانین وایرال شدن (فراگیر شدن) را تغییر می‌دهد. در مدل تعامل سنتی، پستی که ۱۰,۰۰۰ لایک از یک جناح سیاسی واحد دریافت می‌کند، به شدت تقویت می‌شود، حتی اگر جناح مخالف از آن متنفر باشد. در مدل پل‌ساز، همان پست به طور ریاضیاتی جریمه می‌شود. در مقابل، پستی که تنها ۱۰۰ لایک دریافت می‌کند، اما این لایک‌ها را به طور مساوی از خوشه‌های مخالف جذب کرده باشد، به صدر جدول پرتاب می‌شود. الگوریتم به طور ساختاری انگیزه را معکوس می‌کند: برای کسب دیده شدن، تولیدکنندگان محتوا باید برای منتقدان خود جذابیت ایجاد کنند.[1][2]

در حالی که الگوریتم‌های تعامل به حجم کلی پاداش می‌دهند، الگوریتم‌های پل‌ساز به اجماع فراتر از خوشه‌ها پاداش می‌دهند.

برجسته‌ترین کاربرد واقعی این فناوری، «یادداشت‌های جامعه» (Community Notes)، سیستم راستی‌آزمایی جمع‌سپاری شده در پلتفرم X (توییتر سابق) است. هنگامی که کاربری یادداشتی را برای افزودن زمینه به یک پست گمراه‌کننده ارسال می‌کند، انتشار آن بر اساس رأی اکثریت ساده نیست. در عوض، الگوریتم پل‌ساز سابقه رأی‌دهی کاربرانی را که به یادداشت امتیاز می‌دهند، ارزیابی می‌کند. این یادداشت تنها در صورتی برای عموم قابل مشاهده می‌شود که امتیاز «مفید» را از کاربرانی دریافت کند که در گذشته بر سر یادداشت‌های دیگر با هم اختلاف نظر داشته‌اند.[1]

این الزام سختگیرانه برای تأیید متنوع، تأثیرات عمیقی بر لحن پلتفرم دارد. تحقیقات انجام شده توسط «توییتر کورتکس» نشان می‌دهد که یادداشت‌های انتخاب شده توسط الگوریتم پل‌ساز در کاهش انتشار اطلاعات نادرست به مراتب مؤثرتر از راستی‌آزمایی‌های استاندارد کارشناسان هستند. از آنجا که این یادداشت‌ها به گونه‌ای نوشته شده‌اند که برای هر دو طرف جذاب باشند، توسط کاربران با هر گرایش سیاسی، قابل اعتمادتر تلقی می‌شوند.[1]

این الزام سختگیرانه برای تأیید متنوع، تأثیرات عمیقی بر لحن پلتفرم دارد.

الگوریتم‌های پل‌ساز همچنین برای جمع‌سپاری قانون‌گذاری استفاده می‌شوند. پلتفرم متن‌باز «پولیس» (Polis)، که مشهورترین کاربرد آن توسط دولت تایوان بوده است، از تجزیه ماتریسی برای نقشه‌برداری افکار عمومی در مورد مسائل سیاست‌گذاری بحث‌برانگیز استفاده می‌کند. شهروندان اظهارات کوتاهی را ارسال می‌کنند و دیگران برای موافقت یا مخالفت رأی می‌دهند. پولیس رأی‌دهندگان را خوشه‌بندی کرده و سپس اظهارات خاصی را که در تمام خوشه‌ها تأیید کسب می‌کنند، برجسته می‌سازد و بدین ترتیب مختصات دقیق اجماع عمومی را نقشه‌برداری می‌کند.[5]

با این حال، مهندسی اجماع از نظر ریاضیاتی شکننده است. از آنجا که الگوریتم‌های پل‌ساز به الگوهای رأی‌دهی گروه‌های مخالف متکی هستند، در برابر دستکاری‌های پیچیده آسیب‌پذیرند. مقاله‌ای در سال ۲۰۲۶ که در کنفرانس بین‌المللی یادگیری ماشین (ICML) ارائه شد، مدل‌های تجزیه ماتریسی مورد استفاده توسط پلتفرم‌های بزرگ را تحلیل کرد و دریافت که گروه‌های هماهنگ شده‌ای متشکل از کمتر از ۱۰ کاربر می‌توانند گاهی اوقات یک «اجماع مصنوعی» (Synthetic Consensus) ایجاد کنند.[4]

این عوامل مخرب با رأی‌دهی استراتژیک به موارد خاص برای پنهان کردن خوشه ایدئولوژیک واقعی خود، می‌توانند الگوریتم را فریب دهند تا باور کند یک یادداشت بسیار جناحی تأیید متنوعی دریافت کرده است. محققان دریافتند که تا ۱۰.۷٪ از یادداشت‌های با کیفیت پایین‌تر در برابر این نوع دستکاری آسیب‌پذیر بودند، که پلتفرم‌ها را وادار کرد تا تدابیر پیشرفته‌ای را برای شناسایی و خنثی‌سازی حلقه‌های رأی‌دهی هماهنگ شده به کار گیرند.[4]

الزامات ریاضیاتی سختگیرانه الگوریتم‌های پل‌ساز به این معنی است که اکثریت قریب به اتفاق مطالب ارسالی پنهان می‌مانند.

فراتر از حملات خصمانه، الگوریتم‌های پل‌ساز با چالش پایداری جدی روبرو هستند. آستانه ریاضیاتی برای اجماع فراتر از جناح‌ها به طرز باورنکردنی بالاست. تحلیل سال ۲۰۲۵ توسط محققان دانشگاه شفیلد نشان داد که تنها ۱۰٪ از یادداشت‌های جامعه ارسال شده، به آستانه مورد نیاز برای انتشار می‌رسند. اکثریت قریب به اتفاق مطالب ارسالی در بخش پشتی سیستم پنهان می‌مانند.[3]

این نرخ پایین انتشار، بحرانی در حفظ مشارکت‌کنندگان ایجاد می‌کند. وقتی کاربران وقت خود را صرف تحقیق و نوشتن زمینه می‌کنند، اما می‌بینند کارشان دائماً توسط الگوریتم دفن می‌شود، از مشارکت دست می‌کشند. مطالعه شفیلد کاهش شدیدی در مشارکت‌کنندگان فعال را مستند کرد و هشدار داد که سخت‌گیری الگوریتم پل‌ساز می‌تواند در نهایت سیستم را از نیروی انسانی مورد نیاز برای عملکردش محروم سازد.[3]

همچنین یک نقد فلسفی به رتبه‌بندی مبتنی بر پل‌سازی وجود دارد. مدافعان آزادی بیان هشدار می‌دهند که الزام به تأیید فراتر از جناح‌ها ذاتاً دیدگاه‌های اقلیت و حقایق رادیکال و ضروری را در موقعیت نامطلوب قرار می‌دهد. اگر یک محتوا برای کسب دیده شدن باید مورد پسند جناح‌های مخالف باشد، حمایت‌های فوری—مانند مستندسازی حقوق مدنی یا افشاگری‌ها—ممکن است به طور سیستماتیک به نفع میانه‌روی بی‌مزه و بی‌خطر سرکوب شوند.[6]

مقیاس‌بندی الگوریتم‌های پل‌ساز از راستی‌آزمایی به رتبه‌بندی فید اصلی، نیازمند منابع محاسباتی قابل توجهی است.

با وجود این چالش‌ها، موفقیت الگوریتم‌های پل‌ساز در حوزه‌های خاص ثابت می‌کند که معماری اینترنت قابل بازطراحی است. فناوری لازم برای ساخت یک میدان عمومی دیجیتال مبتنی بر اجماع امروز وجود دارد و در حال حاضر در مقیاس وسیع در راستی‌آزمایی و مشاوره‌های مدنی در حال اجرا است.[2]

سؤال نهایی این است که آیا پلتفرم‌ها هرگز الگوریتم‌های پل‌ساز را در فیدهای محتوای اصلی خود به کار خواهند برد؟ انجام این کار به طور ساختاری قطب‌بندی سیاسی را کاهش می‌دهد، اما همچنین مستلزم آن است که پلتفرم‌ها تعامل خام و مبتنی بر خشمی را که درآمد تبلیغاتی آن‌ها را تأمین می‌کند، قربانی کنند. تا زمانی که این تنش اقتصادی حل نشود، الگوریتم‌های پل‌ساز ابزاری قدرتمند، اما محدود، برای صلح‌سازی دیجیتال باقی خواهند ماند.[6]

نکات کلیدی

  • الگوریتم‌های تعامل با تقویت محتوایی که خشم و خصومت با گروه‌های بیرونی را ایجاد می‌کند، به طور ساختاری به تفرقه پاداش می‌دهند.
  • الگوریتم‌های پل‌ساز از تجزیه ماتریسی برای نقشه‌برداری شکاف‌های ایدئولوژیک و پاداش دادن به محتوایی که تأیید فراتر از جناح‌ها را کسب می‌کند، استفاده می‌کنند.
  • پلتفرم‌هایی مانند X و Polis با موفقیت از الگوریتم‌های پل‌ساز برای جمع‌سپاری راستی‌آزمایی‌ها و نقشه‌برداری اجماع سیاست‌گذاری استفاده می‌کنند.
  • آستانه ریاضیاتی سختگیرانه برای اجماع به این معنی است که تنها بخش کوچکی از مطالب ارسالی منتشر می‌شوند، که خطر فرسودگی مشارکت‌کنندگان را در پی دارد.
  • گروه‌های هماهنگ شده گاهی اوقات می‌توانند این الگوریتم‌ها را دستکاری کرده تا اجماع مصنوعی ایجاد کنند، که نیازمند کاهش‌های فنی مداوم است.

چرا مهم است

الگوریتم‌هایی که زندگی دیجیتال ما را هدایت می‌کنند، در حال حاضر به خشم و تفرقه پاداش می‌دهند و قطب‌بندی سیاسی را تشدید می‌کنند. الگوریتم‌های پل‌ساز ثابت می‌کنند که این وضعیت یک انتخاب ریاضیاتی است، نه یک امر اجتناب‌ناپذیر. این امر نقشه‌ای ساختاری برای اینترنتی مبتنی بر اجماع ارائه می‌دهد که به درک متقابل ارزش می‌نهد.

10%
یادداشت‌های مفید منتشر شده در X
10.7%
آسیب‌پذیری در برابر اجماع مصنوعی
0.33
شاخص تعامل فراتر از جناح‌ها (E-I)

بررسی عمیق دیدگاه‌ها

مدافعان پل‌سازی

استدلال می‌کنند که الگوریتم‌ها باید برای اجماع و درک متقابل بهینه‌سازی شوند تا تعامل خام.

محققان در دموکراسی محاسباتی استدلال می‌کنند که رتبه‌بندی مبتنی بر تعامل یک شکست بازار است که هزینه قطب‌بندی را به جامعه تحمیل می‌کند. با اجرای الگوریتم‌های پل‌ساز، پلتفرم‌ها می‌توانند به طور ساختاری به محتوایی پاداش دهند که زمینه مشترک ایجاد می‌کند. آن‌ها به موفقیت Polis در تایوان و Community Notes در X به عنوان اثباتی اشاره می‌کنند که وقتی کاربران برای یافتن اجماع انگیزه پیدا می‌کنند، به طور قابل اعتمادی این کار را انجام می‌دهند.

طرفداران سرسخت آزادی بیان

هشدار می‌دهند که الگوریتم‌های پل‌ساز می‌توانند صداهای به حاشیه رانده شده را سرکوب کرده و یک ارتدوکس میانه‌رو و بی‌مزه را تحمیل کنند.

منتقدان رتبه‌بندی مبتنی بر پل‌سازی هشدار می‌دهند که الزام به تأیید فراتر از جناح‌ها ذاتاً دیدگاه‌های اقلیت و ایده‌های رادیکال را در موقعیت نامطلوب قرار می‌دهد. اگر یک محتوا برای کسب دیده شدن باید مورد پسند جناح‌های مخالف باشد، حقایق فوری اما قطبی‌ساز—مانند حمایت از حقوق مدنی یا افشاگری—ممکن است به طور سیستماتیک دفن شوند. آن‌ها استدلال می‌کنند که اصطکاک و تضاد اجزای ضروری یک دموکراسی سالم هستند و الگوریتم‌ها نباید به طور مصنوعی آن‌ها را هموار سازند.

اقتصاددانان پلتفرم

تنش مالی بین الگوریتم‌های پل‌ساز و اقتصاد توجه را برجسته می‌کنند.

از منظر تجاری، مانع اصلی برای الگوریتم‌های پل‌ساز این است که اجماع اغلب کمتر از تضاد تحریک‌کننده است. پلتفرم‌های رسانه‌های اجتماعی برای ارائه تبلیغات به توجه طولانی‌مدت کاربران متکی هستند و خشم یک مکانیسم اثبات شده برای حفظ این توجه است. در حالی که الگوریتم‌های پل‌ساز سمیت و هزینه‌های تعدیل را کاهش می‌دهند، اقتصاددانان پلتفرم این سؤال را مطرح می‌کنند که آیا آن‌ها می‌توانند معیارهای کاربر فعال روزانه مورد نیاز مدل‌های تجاری مبتنی بر تبلیغات را حفظ کنند یا خیر.

منابع

پوشش منابع

6 منبع

3 دیدگاه شناسایی‌شده

محققان دموکراسی محاسباتی 40%تیم‌های اعتماد و ایمنی پلتفرم 35%حسابرسان الگوریتم 25%
  1. [1]Twitter Cortexتیم‌های اعتماد و ایمنی پلتفرم

    Birdwatch: Crowd Wisdom and Bridging Algorithms can Inform Understanding and Reduce the Spread of Misinformation

    مطالعه در Twitter Cortex
  2. [2]Harvard Kennedy Schoolمحققان دموکراسی محاسباتی

    Bridging Systems: Open Problems for Countering Destructive Divisiveness across Ranking, Recommenders, and Governance

    مطالعه در Harvard Kennedy School
  3. [3]University of Sheffieldحسابرسان الگوریتم

    Threats to the sustainability of Community Notes on X

    مطالعه در University of Sheffield
  4. [4]International Conference on Machine Learning (ICML)تیم‌های اعتماد و ایمنی پلتفرم

    Vulnerabilities and Mitigations in Matrix Factorization Bridging Algorithms

    مطالعه در International Conference on Machine Learning (ICML)
  5. [5]Recercaمحققان دموکراسی محاسباتی

    Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces

    مطالعه در Recerca
  6. [6]تیم سردبیری کوهستان

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت دیدگاه‌ها اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.