کاربران لینکدین یک میلیون پست «محتوای بی‌ارزش هوش مصنوعی» را گزارش کردند؛ کاهش ۴۰ درصدی بازدید محتوای کم‌مایه

در طول دو سال گذشته، باز کردن فید شبکه‌های حرفه‌ای به معنای دست و پنجه نرم کردن با باتلاقی از تشویق‌های ساختگی بوده است. لیست‌های نقطه‌گذاری شده تولید شده توسط ChatGPT، تعارفات کلیشه‌ای درباره رهبری، و حکایات شخصی به طرز عجیبی صیقل‌یافته، به‌روزرسانی‌های شغلی واقعی را کنار زده‌اند. هزینه نهایی تولید محتوا به صفر رسید و فید پلتفرم قربانی کشت خودکار تعامل شد. اما به نظر می‌رسد دوران رشد سریع و بدون اصطکاک در حال برخورد با یک دیوار است.

لینکدین این هفته اعلام کرد که یک ابزار گزارش‌دهی جدید که به تازگی معرفی شده، در ماه اول فعالیت خود منجر به ثبت بیش از ۱ میلیون گزارش برای «تولید هوش مصنوعی کم‌مایه» شده است. به گفته این پلتفرم متعلق به مایکروسافت، این شورش گسترده کاربران یک جریمه الگوریتمی شدید را به دنبال داشته که قابلیت مشاهده جهانی این گونه پست‌ها را تا ۴۰٪ کاهش داده است.[1]

مکانیسم پشت این تغییر ترکیبی از برون‌سپاری جمعی (Crowdsourcing) و یادگیری ماشین است. هنگامی که کاربران روی منوی «علاقه‌مند نیستم» در یک پست کلیک می‌کنند، اکنون یک گزینه خاص برای علامت‌گذاری «اسپم تولید شده توسط هوش مصنوعی» مشاهده می‌کنند. تیم مهندسی لینکدین اظهار می‌دارد که این گزارش‌ها صرفاً پست را برای کاربر فردی پنهان نمی‌کنند؛ بلکه مستقیماً به یک طبقه‌بندی‌کننده بلادرنگ وارد می‌شوند که دسترسی کلی نویسنده در شبکه را کاهش می‌دهد.[2]

با این حال، چارچوب‌بندی شرکت نیاز به بررسی شکاکانه دارد. لینکدین در واقع متن هوش مصنوعی را با دقت کامل تشخیص نمی‌دهد – موفقیتی که از نظر فناوری برای هیچ شرکت نرم‌افزاری هنوز ممکن نیست. در عوض، آنها در حال اندازه‌گیری خستگی کاربر هستند. این سیستم نشانه‌های ساختاری «محتوای بی‌ارزش» را جریمه می‌کند: قالب‌بندی قابل پیش‌بینی، فقدان بینش صنعتی خاص، و نرخ پرش بالا از سوی خوانندگانی که در عرض چند میلی‌ثانیه از آن عبور می‌کنند.

کاهش ۴۰ درصدی بازدیدها به طور خاص حساب‌هایی را هدف قرار می‌دهد که بیش از سه بار در روز با استفاده از ابزارهای زمان‌بندی خودکار پست می‌گذارند. اکنون الگوریتم یک آستانه سختگیرانه برای «نظرات معنادار» اعمال می‌کند. اگر پستی لایک‌های خودکار دریافت کند اما پاسخ‌های چند جمله‌ای و اساسی از سوی ارتباطات درجه اول نداشته باشد، توزیع آن بلافاصله محدود می‌شود.

برای درک اهمیت این موضوع، باید به صنعت کوچک و خانگی که این مشکل را ایجاد کرد، نگاه کنیم. از اواخر سال ۲۰۲۲، بازاریابان دیجیتال دوره‌های پرسودی را در مورد استفاده از مدل‌های زبان برای تولید محتوای لینکدین به مدت چند ماه در عرض چند دقیقه فروخته‌اند. هدف هرگز به اشتراک گذاشتن دانش نبود، بلکه دستکاری ترجیح تاریخی الگوریتم برای متن‌های طولانی و مکرر بود تا مخاطبان بالای قیف فروش را بسازند.

این تغییر الگوریتمی در حال حاضر بازاریابان مذکور را مجبور به یک چرخش سخت کرده است. «پادهای تعاملی» (Engagement pods) – گروه‌هایی از کاربران که به طور خودکار پست‌های یکدیگر را لایک می‌کنند تا حس ویروسی شدن را شبیه‌سازی کنند – متوجه شده‌اند که محتوای ساختگی‌شان عملاً «سایه‌بن» (Shadowbanned) شده است. تغییر پلتفرم، توزیع «مبتنی بر دانش» را اولویت می‌دهد، به این معنی که یک پست باید حاوی تخصص خاص و قابل تأیید باشد تا بتواند از دایره فوری کاربر خارج شود.

خسارت جانبی این فیلترینگ تهاجمی همچنان یک سؤال باز است. افراد غیربومی انگلیسی‌زبان که از ابزارهای هوش مصنوعی برای بهبود گرامر یا ترجمه افکار خود استفاده می‌کنند، ابراز نگرانی کرده‌اند که ممکن است پست‌هایشان در این میان گرفتار شوند. مرز بین «ویرایش به کمک هوش مصنوعی» و «محتوای بی‌ارزش هوش مصنوعی» بسیار ذهنی است و اجرای الگوریتمی به ندرت ظریف و دقیق است.

در پاسخ به این نگرانی‌ها، لینکدین ادعا می‌کند که طبقه‌بندی‌کننده آن به دنبال «محتوا به جای ساختار» است. وبلاگ مهندسی پلتفرم توضیح می‌دهد که پستی که کاملاً توسط انسان نوشته شده اما حاوی هیچ اطلاعات جدیدی نیست، به همان اندازه یک تعارف کلیشه‌ای تولید شده توسط ربات جریمه خواهد شد. هدف، ارزش زیربنایی محتوا است، نه صرفاً منشأ دیجیتالی آن.[2]

این اقدام لینکدین را در خط مقدم یک حسابرسی گسترده‌تر در شبکه‌های اجتماعی قرار می‌دهد. از آنجایی که هوش مصنوعی مولد امکان تولید محتوای نامحدود را فراهم می‌کند، پلتفرم‌ها دیگر نمی‌توانند به حجم به عنوان معیاری برای کیفیت اعتماد کنند. تحلیلگران پیشنهاد می‌کنند که شبکه‌های دیگر، از جمله X و Threads متا، موفقیت این مدل گزارش‌دهی توسط کاربران را برای حل بحران‌های ربات خود به دقت زیر نظر دارند.[1]

در نهایت، ۱ میلیون گزارش کاربر نشان‌دهنده یک سیگنال واضح و غیرقابل انکار از بازار است: متخصصان فعالانه در حال رد تعاملات ساختگی هستند. در حالی که ابزارهای هوش مصنوعی به تکامل و ادغام در جریان‌های کاری ما ادامه خواهند داد، پلتفرم‌هایی که میزبان آنها هستند، سرانجام مجبور به ساخت سیستم‌های ایمنی لازم برای محافظت از توجه انسان می‌شوند.

برای کاربر عادی، نتیجه فوری یک فید آرام‌تر و کمی مرتبط‌تر است. پیامد بلندمدت، بازسازی اساسی اقتصاد تولیدکنندگان محتوای حرفه‌ای است – اقتصادی که در آن تخصص اصیل و به سختی به دست آمده، بار دیگر بر حجم خودکار برتری می‌یابد.