جایگزینی ۹۰٪ ناظران محتوای متا با هوش مصنوعی؛ نگرانی‌ها در مورد ایمنی برندها اوج می‌گیرد

برای بازاریابان دیجیتال و مدیران برند، ایمنی قرارگیری یک تبلیغ در فیس‌بوک یا اینستاگرام قرار است تقریباً به طور کامل توسط یک ماشین تعیین شود. متا در حال تسریع یک بازنگری عملیاتی گسترده است که تا پایان سال جاری میلادی، تا ۹۰٪ از ناظران محتوای انسانی خود را با هوش مصنوعی مولد جایگزین خواهد کرد. این تغییر، محاسبات ریسک برای تبلیغ‌کنندگان را به طور اساسی دگرگون می‌کند و مسئولیت نظارت بر میلیاردها پست، تصویر و ویدئو را از پیمانکاران شخص ثالث به مدل‌های زبان بزرگ منتقل می‌سازد. در حالی که بزرگترین پلتفرم رسانه اجتماعی جهان به سمت اجرای خودکار حرکت می‌کند، صنعت بازاریابی برای ورود به عصر جدیدی آماده می‌شود که در آن ایمنی برند به جای قضاوت انسانی، متکی بر قابلیت‌های تفسیری الگوریتم‌ها خواهد بود.[1][6]

مقیاس مالی و عملیاتی این انتقال عظیم است. متا در حال حاضر حدود ۵۰٪ از درخواست‌های بازبینی انسانی را در سال جاری با مدل‌های زبان بزرگ جایگزین کرده و قصد دارد این رقم را برای دسته‌های خاصی از محتوا به بالای ۹۰٪ برساند. با خودکارسازی شناسایی نقض سیاست‌ها، این شرکت فناوری با ارزش ۱.۴ تریلیون دلار، سالانه میلیاردها دلار در هزینه‌های عملیاتی صرفه‌جویی خواهد کرد. این صرفه‌جویی‌ها به طور تهاجمی به سمت سرمایه‌گذاری‌های گسترده‌تر مارک زاکربرگ، مدیرعامل، در زیرساخت‌های هوش مصنوعی و توسعه آنچه او «فرا هوش شخصی» می‌نامد، هدایت می‌شود. برای شرکتی که از لحاظ تاریخی هزینه زیادی برای ایمنی و امنیت صرف کرده است، این تخصیص مجدد سرمایه نشان‌دهنده یک چرخش قطعی به سمت اولویت‌بندی کارایی تکنولوژیک به جای نظارت دستی است.[1][3]

برخلاف فیلترهای خودکار سنتی که متکی بر تطبیق کلمات کلیدی سختگیرانه بودند، معماری جدید نظارت از مدل‌های زبان بزرگ پیشرفته‌ای استفاده می‌کند که برای درک زمینه و ظرافت طراحی شده‌اند. متا ادعا می‌کند که آزمایش‌های اولیه نشان می‌دهد این سیستم‌های هوش مصنوعی در چندین معیار کلیدی، عملکرد بهتری نسبت به همتایان انسانی خود دارند. به گفته این شرکت، مدل‌ها ۱۳٪ خطای کمتری نسبت به بازبینان انسانی مرتکب می‌شوند و ۱۰٪ تخلفات سیاست‌گذاری بیشتری را با موفقیت شناسایی می‌کنند، از جمله مسائل پیچیده‌ای مانند کلاهبرداری، تقلب و فروش غیرقانونی. با تحلیل الگوها در زمان واقعی، هوش مصنوعی می‌تواند روزانه هزاران تلاش هماهنگ برای کلاهبرداری را شناسایی و کاهش دهد و زمان پاسخگویی سریع‌تری نسبت به فرآیندهای بازبینی سنتی تحت رهبری انسان ارائه دهد.[1]

نظارت انسانی به طور کامل از اکوسیستم پلتفرم حذف نخواهد شد. ۱۰٪ باقی‌مانده از پهنای باند نظارت برای موارد پیچیده، درخواست‌های اجرای قانون و تجدیدنظرهای کاربران اختصاص خواهد یافت. متا تأکید می‌کند که کارشناسان انسانی همچنان سیستم‌های هوش مصنوعی را طراحی، آموزش و ارزیابی خواهند کرد تا از دقت اطمینان حاصل کرده و سوگیری‌های سیستمی را کاهش دهند. با این حال، حجم بالای بازبینی‌های اولیه خودکار به این معنی است که اکثریت قریب به اتفاق تصمیمات محتوایی – و به تبع آن، اجرای ایمنی برند – بدون دخالت مستقیم انسانی رخ خواهد داد. این تغییر ساختاری، سطح بی‌سابقه‌ای از اعتماد را در مدل‌های یادگیری ماشین برای تفسیر دقیق مرزهای گفتمان آنلاین قرار می‌دهد.[2][6]

برای تبلیغ‌کنندگان، این انتقال لایه‌ای جدید از عدم قطعیت را به خرید رسانه‌های دیجیتال اضافه می‌کند. پست‌های بحث‌برانگیز می‌توانند تعامل بالایی ایجاد کنند، اما همچنین خطرات جدی ایمنی برند را به همراه دارند که می‌تواند منجر به تحریم‌های پرهزینه تبلیغ‌کنندگان شود. در حالی که مدل‌های هوش مصنوعی می‌توانند محتوا را با سرعت بی‌سابقه‌ای پردازش کنند، تحلیلگران صنعت خاطرنشان می‌کنند که آن‌ها همچنان ممکن است با اصطلاحات عامیانه در حال تحول اینترنتی، ظرافت‌های فرهنگی و طنز بسیار زمینه‌ای مشکل داشته باشند. ترس اصلی در میان بازاریابان این است که سیستم‌های خودکار ممکن است یا با پرچم‌گذاری بیش از حد محتوای بی‌ضرر، بیش از حد سخت‌گیر باشند یا مواد مضر ظریف را نادیده بگیرند و ناخواسته تبلیغات برندهای ممتاز را در کنار پست‌های سمی یا آسیب‌رسان به برند قرار دهند.

این تغییر همچنین موج‌هایی را در صنعت برون‌سپاری جهانی ایجاد کرده است، صنعتی که مدت‌ها ستون فقرات نظارت بر رسانه‌های اجتماعی بوده است. متا به طور تاریخی به شبکه گسترده‌ای از فروشندگان شخص ثالث – از جمله شرکت‌های بزرگی مانند Accenture و Cognizant – برای انجام کار طاقت‌فرسای بازبینی محتوا متکی بوده است. هزاران موقعیت شغلی پیمانکاری در سطح جهان با تصاحب خط مقدم دفاع توسط سیستم‌های هوش مصنوعی حذف شده‌اند. این کاهش نیروی کار یکی از مهم‌ترین جابجایی‌های نیروی کار ناشی از هوش مصنوعی در بخش فناوری تا به امروز است که نشان می‌دهد چگونه هوش مصنوعی مولد فراتر از کمک‌های خلاقانه، نقش‌های عملیاتی در مقیاس بزرگ را به طور فعال جایگزین می‌کند.[5][6]

این انتقال در حالی صورت می‌گیرد که متا با نظارت مداوم نهادهای نظارتی جهانی بر ایمنی پلتفرم و حاکمیت محتوا مواجه است. در مناطقی مانند اتحادیه اروپا، قانون خدمات دیجیتال (DSA) پلتفرم‌ها را ملزم می‌کند تا استانداردهای نظارتی و شفافیت قوی را برای محافظت از کاربران حفظ کنند. اتکای شدید متا به هوش مصنوعی این موضوع را آزمایش خواهد کرد که آیا سیستم‌های خودکار می‌توانند این الزامات سختگیرانه نظارتی را برآورده سازند، در حالی که تهدیدات پیچیده و سریع‌التغییر اطلاعات نادرست و رفتار غیرمعتبر هماهنگ را مدیریت می‌کنند. نهادهای نظارتی و گروه‌های جامعه مدنی به دقت نرخ خطای پلتفرم را زیر نظر خواهند داشت تا اطمینان حاصل کنند که تلاش برای کارایی، ایمنی کاربر را به خطر نمی‌اندازد.[4]

با گسترش این طرح در سراسر مجموعه برنامه‌های متا، صنعت بازاریابی به دقت زیر نظر خواهد داشت تا ببیند آیا هوش مصنوعی می‌تواند به وعده خود مبنی بر بهبود دقت عمل کند، بدون اینکه تبلیغ‌کنندگان را از خود دور سازد. به بازاریابان توصیه می‌شود که جایگاه‌های کمپین خود را با دقت بیشتری نظارت کنند و با فرآیندهای تجدیدنظر خودکار متا در صورت اجرای اشتباه، آشنا شوند. در صورت موفقیت، رویکرد متا می‌تواند استاندارد جدیدی را برای اتوماسیون سازمانی تعیین کند و ثابت کند که حتی وظایف شناختی پیچیده شامل تفسیر فرهنگی نیز می‌توانند در مقیاس جهانی توسط ماشین‌ها مدیریت شوند و اقتصاد ایمنی پلتفرم را به طور اساسی تغییر دهند.[3][6]