«الگواسپیک» چطور هوش مصنوعی را دور می‌زند؛ فیلترهایی که با چند غلط املایی فریب می‌خورند

مدیران شبکه‌های اجتماعی همیشه جلوی پای تبلیغ‌دهنده‌ها فرش قرمز پهن می‌کنند و اطمینان می‌دهند که هوش مصنوعی‌شان در یک پلک‌به‌هم‌زدن محتوای مضر را پیش از انتشار شناسایی و پاک می‌کند. اما کافی است چند دقیقه در تیک‌تاک یا اینستاگرام بچرخید تا روی دیگر سکه را ببینید: نوجوان‌هایی که تمام این فیلترهای میلیاردی را با چند غلط املایی عامدانه و کودکانه به سخره می‌گیرند. شواهد نشان می‌دهد سیستم تعدیل خودکار در برابر پدیده‌ای به نام «الگواسپیک» (Algospeak) عملاً کم آورده است.[1][3]

وقتی پلتفرمی کلمه‌ای مثل «lesbian» را در فهرست سیاه می‌گذارد، کاربران خیلی ساده می‌نویسند «le$bian» یا اصطلاح «le dollar bean» را باب می‌کنند. وقتی صحبت از خودکشی ممنوع می‌شود، به جایش عبارت «unalive شدن» را به کار می‌برند. این دستکاری‌های آوایی و نگارشی برای مخاطب انسان مثل روز روشن و قابل فهم است، در حالی که الگوریتم‌های یادگیری ماشین روبه‌روی این مکالمات کاملاً کور و گیج می‌شوند.[1][3]

ریشه مشکل به معماری همین سیستم‌های نظارتی برمی‌گردد. با وجود تمام ادعاهای پرطمطراق غول‌های فناوری درباره تجزیه و تحلیل معنایی پیشرفته، بسیاری از پلتفرم‌ها هنوز به همان فهرست‌های سنتی و ابتدایی کلمات کلیدی ممنوعه تکیه دارند. این سیستم‌ها متن را برای یافتن تطابق دقیق واژه‌ها اسکن می‌کنند؛ با این پیش‌فرض ساده‌لوحانه که زبان موجودی ایستا و پیش‌بینی‌پذیر است.[3][6]

مکانیسم‌های دور زدن فیلتر

اما زبان هر چیزی هست جز ساکن، و کاربران اینترنت انگیزه‌ای بی‌پایان برای حفظ اجتماعات آنلاین خود دارند. وقتی گروه‌های در حاشیه متوجه می‌شوند که مکالماتشان به‌ناحق زیر تیغ فیلترهای الگوریتمی می‌رود، فوراً با ابداع واژگان تازه دست‌به‌کار می‌شوند. این بازی موش و گربه، وب را به موتور محرک عظیمی برای تکامل زبانی بدل کرده؛ جایی که گویش‌های جدید نه از سر تفنن، بلکه از سر ناچاری متولد می‌شوند.[1][3][5]

ابعاد این فریب سیستماتیک حیرت‌آور است. بر اساس نظرسنجی سال ۲۰۲۲ موسسه «تلوس اینترنشنال» (TELUS International)، ۵۱ درصد کاربران اینترنت در شبکه‌های اجتماعی، انجمن‌ها و جوامع گیمینگ با الگواسپیک روبه‌رو شده‌اند. این رقم در میان نسل Z به ۷۲ درصد می‌رسد و بیش از چهار نفر از هر ده جوان این نسل، خودشان هم برای جا گذاشتن فیلترهای خودکار دست به دامن این کدهای زبانی می‌شوند.[4]

سازوکار الگواسپیک اتکای زیادی به جایگزینی آوایی دارد؛ یعنی ظاهر واژه تغییر می‌کند اما شباهت صوتی‌اش دست‌نخورده می‌ماند. چشم و گوش انسان با دیدن کلمه «seggs» بلافاصله می‌فهمد مقصود همان رابطه جنسی (sex) است، چرا که مغز ما به حافظه واژگانی و رمزگشایی آوایی مجهز است. ولی هوش مصنوعی فقط رشته‌ای از حروف را می‌بینید که در فهرست ممنوعه‌اش ثبت نشده است.[3][5][6]

جایگزینی نگارشی هم با فرمولی مشابه کار می‌کند؛ حروف اصلی جایشان را به نمادها یا اعدادی شبیه به خود می‌دهند. نوشتن «k*ll» به جای «kill» یا استفاده از ایموجی بلال ذرت به نشانه پورنوگرافی، از نمونه‌های آشنای این شگردند. این ترفندهای بصری روی یک پاشنه‌آشیل دست می‌گذارند: مدل‌های یادگیری ماشین بر پایه املای استاندارد آموزش دیده‌اند و با کوچک‌ترین نویز عامدانه‌ای به تته‌پته می‌افتند.[1][3]

یک دگرگونی زبانی در مقیاس جهانی

این پدیده البته فقط مختص زبان انگلیسی یا پلتفرم‌های غربی نیست. پژوهشی در سال ۲۰۲۶ از سوی «انجمن پیشبرد هوش مصنوعی» (AAAI) بیش از ۲۰۰ هزار ویدیوی مرور فیلم را در شبکه‌های اجتماعی چین ارزیابی کرد. محققان دریافتند تولیدکنندگان محتوا زیرنویس‌های حک‌شده روی ویدیوها را به‌طور سیستماتیک دستکاری می‌کنند تا گیرِ ناظران خودکار پلتفرم‌هایی چون «دویین» (Douyin) نیفتند.[2]

بررسی AAAI نشان داد تولیدکنندگان چینی از تغییرات پیچیده در سطح کاراکترها و جایگزینی کلمات هم‌آوا استفاده می‌کنند تا معانی را به‌طور غیرمستقیم رمزگذاری کنند. گشودن این رمزها مستلزم شناخت مشترک فرهنگی است؛ چیزی که الگوریتم‌ها از درکش عاجزند. این رفتار، شیطنت چند کاربر یاغی نبود، بلکه راهبردی همگانی برای دوام آوردن زیر چتر قواعد سفت‌وسخت فضای مجازی به شمار می‌رفت.[2]

ناکامی پایش خودکار پیامدهای سنگینی برای پلتفرم‌ها و کاربران به بار آورده است. درست است که الگواسپیک به اقلیت‌ها مجال می‌دهد بدون خاموش شدن صدایشان درباره موضوعات حساس حرف بزنند، اما هم‌زمان به سنگری برای خرابکاران هم بدل شده است. باج‌گیران سایبری و گروه‌های مروج نفرت دقیقاً از همین کدهای صوتی و املایی بهره می‌برند تا قربانیان را آزار دهند و بی‌سروصدا از چنگال فیلترها بگریزند.[1][4]

این وضعیت پارادوکسی طعنه‌آمیز پدید آورده است: ابزارهایی که برای محافظت ساخته شده بودند، حالا بی‌گناهان را تنبیه و خطاکاران را پنهان می‌کنند. یک فعال حوزه سلامت روان ممکن است به خاطر استفاده از اصطلاحات علمی و بالینی ویدیواش سانسور شود، در حالی که یک ترول اینترنتی با تغییر املای توهین‌هایش قسر درمی‌رود. بی‌بهره بودن الگوریتم از درک بافتار کلام، آن را در محیطی پر از ظرافت، به شمشیری کند و کور بدل کرده است.[1][6]

مرزهای ناتوانی یادگیری ماشین

پلتفرم‌ها در چرخه‌ای فرساینده گرفتار شده‌اند و مدام ناچارند فهرست‌های سیاه خود را با واژگان تازه الگواسپیک به‌روز کنند. غافل از اینکه به محض مسدود شدن یک اصطلاح، جامعه کاربران یکی دیگر خلق می‌کند. اوان گریر، مدیر سازمان غیرانتفاعی حقوق دیجیتال «مبارزه برای آینده» (Fight for the Future)، درباره تلاش پلتفرم‌ها برای حذف واژه‌های خاص می‌گوید: «موضوع این است که این روش اصلاً کار نمی‌کند.»[1][3]

رواج الگواسپیک نمایانگر چرخشی بنیادین در مسیر تطور زبان در عصر دیجیتال است. روزگاری اصطلاحات عامیانه به‌شکلی طبیعی در دل محله‌ها، خرده‌فرهنگ‌ها یا مناطق جغرافیایی رشد می‌کردند؛ اما امروز این محدودیت‌های معماری پلتفرم‌ها هستند که خلاقیت‌های زبانی را رقم می‌زنند و الگوریتم‌ها حکم کاتالیزور اصلی دگرگونی زبان را پیدا کرده‌اند.[3][5]

زبان‌شناسان معتقدند این رفتار امتداد همان «زبان ازوپ» است؛ روشی کهن در تاریخ برای فرار از گزند سانسور سیاسی. منتها تفاوت اینجاست که کاربران امروزی به جای گریز از مأموران حکومتی، در حال دور زدن خطوط کد هستند. سرعت تکثیر این اصطلاحات نیز بی‌سابقه است؛ یک ویدیوی ویروسی کافی است تا یک کنایه و استعاره جدید را در کمتر از ۲۴ ساعت در ذهن میلیون‌ها نفر جا بیندازد.[1][3][5]

تاوان روانی خودسانسوری

فشار این ماجرا بر جوامع حاشیه‌ای سنگین‌تر از دیگران است. در اوج دوران همه‌گیری، تولیدکنندگان محتوای دگرباش در یوتیوب و تیک‌تاک گزارش دادند که ویدیوهایشان فقط به خاطر بردن نام «همجنس‌گرا» از درآمدزایی محروم شده است. این افراد برای محافظت از کسب‌وکار و معیشت خود ناچار شدند به الگواسپیک پناه ببرند و کلمات را با نمادها و ایموجی‌ها عوض کنند تا محتوایشان دیده شود.[1]

این خودسانسوری اجباری فشار روانی مداومی را بر دوش سازندگان محتوا می‌گذارد؛ کسانی که باید پیوسته مراقب کلامشان باشند مبادا دل الگوریتمی مبهم و سربسته را بلرزانند. قواعد نظارت پلتفرم‌ها به‌ندرت شفاف است و کاربران همیشه باید حدس بزنند کدام واژه سبب «شَدو بن» (Shadowban) شده است. این حدس‌وگمان‌ها به پایش روزمره الگوریتم‌ها توسط کاربران منجر می‌شود تا به‌طور جمعی سیم‌های خاردار پنهان پلتفرم را مکان‌یابی کنند.[3][6]

حتی واژه‌های کاملاً بی‌خطر هم از این آتش‌بازی الگوریتمی در امان نمی‌مانند. در روزهای کرونا، وقتی پلتفرم‌ها تلاش کردند جلوی اطلاعات نادرست را بگیرند، کاربران دست‌به‌کار شدند و به ویروس نام‌هایی چون «تور بازگشت گروه بک‌استریت بویز» یا «پانینی» دادند! ناتوانی الگوریتم در تمایز میان اطلاعات غلط خطرناک و بحث‌های عادی بهداشت عمومی، همه را به یک گویش رمزی یکدست کشاند.[1]

آینده زبان در دنیای آنلاین

از طرفی، وابستگی به الگواسپیک سدی در برابر دسترسی کاربرانی می‌سازد که خارج از این حلقه‌های فرهنگی ایستاده‌اند. شاید یک نوجوان فوراً بفهمد که ترکیب «leg booty» کنایه از جامعه اقلیت‌های جنسی است، اما یک فرد مسن‌تر یا کسی که زبان مادری‌اش انگلیسی نیست کاملاً سردرگم می‌شود. این تکه‌تکه شدن زبانی، اینترنت را به جزیره‌هایی مجزا بدل می‌کند که ورود به آن‌ها پیش‌شرط تسلط بر گویش محلی‌شان است.[3][5][6]

برای آگهی‌دهندگان و مدیران برندها هم این ماراتن زبانی دردسری تازه است. مشتریان توقع دارند محیط اطراف برندها پاکیزه و عاری از توهین باشد؛ چنان‌که ۳۸ درصد پاسخ‌دهندگان در نظرسنجی تلوس اعلام کردند برندها باید بتوانند اصطلاحات ظریف و چندپهلو را در دم شناسایی و پاک کنند. با این حال، تنها یک‌سوم بر این باور بودند که برندها واقعاً در انجام این مأموریت موفق بوده‌اند.[4]

واقعیت این است که طراحی هوش مصنوعی قادر به فهم بافتار، طنز، کنایه و بازی‌های کلامی صوتی، از دشوارترین مسائل علم کامپیوتر است. مدل‌های زبانی بزرگ فعلی هنوز در تشخیص نیت اصلی یک واژه با املای عامدانه غلط دست‌وپایشان را گم می‌کنند؛ به‌ویژه وقتی این غلط‌ها مدام تغییر چهره می‌دهند. تا زمانی که ماشین‌ها نتوانند زبان را همانند انسان بفهمند، این فیلترها شکست خواهند خورد.[6]

در پایان، دوام و رواج الگواسپیک به ما یادآوری می‌کند که ارتباطات انسانی را نمی‌توان با خط‌کش قواعد سفت‌وسخت مهار کرد. تا زمانی که میل به هم‌سخنی و اشتراک نظر میان انسان‌ها زنده است، آن‌ها راهی برای پیچیدن دور موانع دیجیتال خواهند یافت. الگوریتم شاید صاحب پلتفرم باشد، اما مالکیت زبان همچنان در دست مردم است.[1][6]