چگونه ایجنت‌های هوش مصنوعی جایگزین کرادتنگل برای ردیابی اطلاعات نادرست در پلتفرم‌ها می‌شوند

دو سال پس از آنکه ابزار اصلی رصد شبکه‌های اجتماعی در این صنعت خاموش شد، محققان مستقل و اتاق‌های خبر بار دیگر می‌توانند کمپین‌های دستکاری هماهنگ‌شده را در سراسر وب اجتماعی ردیابی کنند. نسل جدیدی از زیرساخت‌های هوش مصنوعی شروع به نقشه‌برداری از نحوه جهش روایت‌ها بین پلتفرم‌ها کرده است؛ اتفاقی که شفافیت را به نیروهای شکل‌دهنده فیدهای عمومی، پیش از آنکه بر تصمیمات دنیای واقعی تأثیر بگذارند، بازمی‌گرداند. این تغییر نشان‌دهنده یک تحول بنیادین در نحوه انجام جرم‌شناسی دیجیتال است؛ گذار از داشبوردهای تک‌پلتفرمی به سمت ایجنت‌های خودمختاری که داده‌ها را در سراسر اینترنت استخراج و ترکیب می‌کنند.

این گذار به دنبال تعطیلی کرادتنگل (CrowdTangle) در آگوست ۲۰۲۴ رخ داد؛ یک داشبورد تحلیلی متعلق به متا که به عنوان سیستم عصبی مرکزی برای ردیابی محتوای وایرال عمل می‌کرد. برای یک دهه، محققان به آن متکی بودند تا انتشار ادعاها را در فیس‌بوک و اینستاگرام به صورت درنگ‌نگار (Real-time) تماشا کنند. وقتی متا این ابزار را بازنشسته کرد، در واقع خط دید اصلی به بزرگترین اکوسیستم اطلاعاتی جهان را قطع کرد. این شرکت دلیل این کار را لزوم رعایت مقررات سخت‌گیرانه جهانی حریم خصوصی و رعایت استانداردهای جدید برای اشتراک‌گذاری داده‌ها عنوان کرد، اما این تعطیلی، گروه‌های ناظر را در سالی که پر از انتخابات مهم جهانی بود، کور گذاشت.[1]

البته متا این فضا را کاملاً خالی نگذاشت. این شرکت «کتابخانه محتوای متا» (Meta Content Library) را عرضه کرد؛ یک مجموعه داده جایگزین و به شدت کنترل‌شده که حاوی پست‌های عمومی فیس‌بوک، اینستاگرام و تردز است. اما این سیستم جدید اساساً تغییر داد که چه کسی اجازه تماشا دارد. دسترسی به آن به شدت توسط کنسرسیوم بین‌دانشگاهی برای تحقیقات سیاسی و اجتماعی در دانشگاه میشیگان کنترل می‌شود. فرآیند بررسی بین دو تا شش هفته طول می‌کشد و تأییدیه صراحتاً محدود به محققان دانشگاهی و غیرانتفاعی است. روزنامه‌نگاران تجاری و محققان مستقل از ورود به این سیستم منع شده‌اند.

برای کسانی که از این مانع نهادی عبور می‌کنند، کتابخانه محتوای متا در داخل یک محیط ایزوله دیجیتال (Cleanroom) عمل می‌کند. محققان باید داده‌ها را از طریق یک «محیط داده مجازی» یا «محیط امن تحقیقاتی متا» جستجو کنند. آن‌ها نمی‌توانند داده‌های خام را به صورت محلی دانلود کنند و موظفند هر ۱۸۰ روز یک‌بار هرگونه سابقه کش‌شده را پاک کنند. این یک سیستم امن و سازگار با مقررات است که برای مطالعات دقیق دانشگاهی طراحی شده، اما معماری آن کاملاً با سرعت چرخه خبری روزانه یا نیازهای راستی‌آزمایی اخبار فوری ناسازگار است.

دویا باتار، هم‌بنیان‌گذار مرکز نست (Nest Center) مستقر در مغولستان که از طریق یک شراکت راستی‌آزمایی دسترسی خود را حفظ کرده است، می‌گوید: «اگر به دنبال یک پست خاص هستید و می‌خواهید یک روایت خاص را بررسی کنید، کتابخانه محتوای متا بد نیست. اما اگر می‌خواهید تحلیل کنید که اکوسیستم اطلاعاتی چگونه در حال تغییر است، این سیستم اصلاً در حد و اندازه‌های کرادتنگل نیست.» همین شکاف عملیاتی باعث توسعه جایگزین‌های مستقل و چندپلتفرمی شد که مشخصاً برای سرعت روزنامه‌نگاری مدرن طراحی شده‌اند و کشف روندها را بر آرشیو عمیق تاریخی ترجیح می‌دهند.[1]

برجسته‌ترینِ این سیستم‌های جدید، آربیتر (Arbiter) است که توسط آزمایشگاه تحقیقاتی غیرانتفاعی SimPPL ساخته شده است. آربیتر به جای تکیه بر داشبورد داخلی یک شرکت واحد، از مدل‌های زبانی بزرگ و ایجنت‌های خودمختار استفاده می‌کند تا پست‌های عمومی را به طور همزمان از ۹ شبکه مختلف، از جمله ایکس (توییتر سابق)، تیک‌تاک، ردیت، یوتیوب و بلواسکای استخراج کند. این پلتفرم به گونه‌ای طراحی شده که کار دستی جرم‌شناسی دیجیتال را خودکار کند و به یک خبرنگار اجازه دهد تا یک کمپین هماهنگ‌شده را در حالی که از انجمن‌های حاشیه‌ای به فیدهای الگوریتمی جریان اصلی مهاجرت می‌کند، ردیابی کند.[1][2]

وقتی یک محقق پرسشی را به زبان ساده درباره یک موضوع در حال توسعه وارد می‌کند، ایجنت‌های آربیتر در سراسر رابط‌های برنامه‌نویسی (API) پلتفرم‌ها و داده‌های استخراج‌شده شخص ثالث پخش می‌شوند. آن‌ها هزاران پست مرتبط را بازیابی کرده و به یک مدل زبانی تغذیه می‌کنند که عبارت‌های مشابه را دسته‌بندی کرده و ادعاهای اصلی نهفته در آن‌ها را استخراج می‌کند. این مکانیسم دسته‌بندی، نویز ناشی از تفاوت‌های فردی کاربران را حذف می‌کند، اسکلت ساختاری یک خط فکری را آشکار می‌سازد و مشخص می‌کند کدام حساب‌ها در حال تزریق ادبیات یکسان به جوامع مختلف برای تولید یک اجماع مصنوعی هستند.[2]

این ابزار سپس تلاش می‌کند تا ادعاهای استخراج‌شده را به طور خودکار راستی‌آزمایی کند. آربیتر به صورت دوره‌ای کل ویکی‌پدیای انگلیسی را با استفاده از API اسنپ‌شات سازمانی ویکی‌مدیا دانلود می‌کند. سپس ادعاهای شبکه‌های اجتماعی را با این داده‌های ساختاریافته دایرةالمعارفی تطبیق داده و انحرافات از حقایق تثبیت‌شده را برجسته می‌کند. با خودکارسازی گام اولیه راستی‌آزمایی، این سیستم به محققان انسانی اجازه می‌دهد تا به جای صرف ساعت‌ها زمان برای رد کردن دستی تک‌تک ادعاها، انرژی خود را روی ردیابی منشأ دستکاری شبکه متمرکز کنند.[2][3]

هدف نهایی این معماری، پیش‌بینی است نه واکنش. سواپنیل مهتا، هم‌بنیان‌گذار SimPPL به نیمن لب (Nieman Lab) گفت: «سیستم‌های رصد اجتماعی به شما می‌گویند که مکالمات در حین انفجار کجا در حال رخ دادن هستند. مشکل اینجاست که به عنوان روزنامه‌نگار، شما می‌خواهید جلوتر از هشدار باشید.» این نرم‌افزار با ترسیم سرعت یک روایت در چندین پلتفرم، خطوط روندی تولید می‌کند که نشان می‌دهد چه زمانی یک دروغ خاص در حال به دست آوردن شتاب کافی برای نفوذ به آگاهی عمومی گسترده‌تر است؛ قابلیتی که به اتاق‌های خبر اجازه می‌دهد پیش از رسیدن به نقطه اوج، گزارش‌های متقابل خود را آماده کنند.[1]

این قابلیت پیش از این در میدان عمل با نتایج قابل‌اندازه‌گیری آزمایش شده است. اوایل امسال، تیم باتار در مرکز نست از آربیتر برای نظارت بر گفتمان پیرامون حکم دادگاه عالی مغولستان که قانون ممنوعیت اطلاعات نادرست را لغو کرده بود، استفاده کرد. این ابزار خوشه‌ای از حساب‌های کوچک فیس‌بوک را نمایان کرد که نشان می‌داد قانون‌گذاران قصد دارند مقررات جدید افترا را جایگزین آن قانون کنند. باتار در ابتدا این شایعات را نادیده گرفت، اما هفته‌ها بعد، پارلمان رسماً یک کارگروه را دقیقاً برای همین کار معرفی کرد و سیگنال‌های هشدار زودهنگام سیستم را تأیید نمود.[1]

با این حال، این اکوسیستم نظارتی جدید همچنان بسیار شکننده است. آربیتر و ابزارهای مشابه آن در حال عبور از چیزی هستند که محققان آن را «آخرالزمان API» می‌نامند؛ دورانی که پلتفرم‌ها به شدت دسترسی برنامه‌نویسی به داده‌های خود را قفل می‌کنند تا از آموزش غیرمجاز هوش مصنوعی جلوگیری کنند. در حالی که SimPPL در حال حاضر پست‌هایی را که ماهانه حدود ۱۰۰ میلیارد بازدید دریافت می‌کنند ایندکس می‌کند، اما همچنان با محدودیت‌های شدید نرخ درخواست روبه‌روست، به شدت به داده‌های اهدایی دانشگاهیان متکی است و به بررسی مداوم حقوقی نیاز دارد تا اطمینان حاصل کند که روش‌های استخراج آن، شرایط متغیر خدمات پلتفرم‌ها را نقض نمی‌کند.[1][2]

چشم‌انداز کنونی نشان‌دهنده یک شکاف دائمی در نحوه نظارت بر اینترنت است. دوران یک داشبورد واحد و یکپارچه که توسط خود پلتفرم ارائه می‌شد، به طور قطعی به پایان رسیده است. به جای آن، یک سیستم دوشاخه وجود دارد: محیط‌های ایزوله دانشگاهیِ بی‌نقص اما کُند در یک سو، و استخراج‌کننده‌های چندپلتفرمیِ مبتنی بر هوش مصنوعی که برای دسترسی به API می‌جنگند در سوی دیگر. برای روزنامه‌نگارانی که وظیفه توضیح اینترنت برای افکار عمومی را بر عهده دارند، شفافیت اکنون کاملاً به توانایی آن‌ها در به هم دوختن دوباره این دیدگاه‌های تکه‌تکه بستگی دارد.[3]