دستور به متا برای حذف دیپ‌فیک‌ها؛ هیئت نظارت خواستار تغییرات اساسی در سیاست‌های هوش مصنوعی شد

اگر کسی در اواخر سال ۲۰۲۶ هوس کند از تصاویر تولید شده با هوش مصنوعی به عنوان سلاحی علیه زنان در فیس‌بوک یا اینستاگرام استفاده کند، حالا با یک سد خودکار و فوری روبرو می‌شود. دوران اینکه متا شانه‌هایش را بالا بیندازد و آزارهای ساختگی را به عنوان یک «منطقه خاکستری» در قوانین جامعه کاربری‌اش توجیه کند، همین هفته رسماً به پایان رسید؛ دورانی که حالا جای خود را به یک دستورالعمل الزام‌آور برای محافظت از کاربران در برابر جعلیات دیجیتال داده است.

هیئت نظارت مستقل این شرکت - که خیلی‌ها آن را دیوان عالی داخلی متا می‌دانند - حکمی صادر کرده که فقط یک درخواست ساده برای نظارت بهتر نیست، بلکه خواهان بازنویسی اساسی نحوه برخورد این پلتفرم با دیپ‌فیک‌هاست. این هیئت با صراحت تمام، قوانین فعلی متا برای رسانه‌های تولید شده با هوش مصنوعی را «به‌طور مداوم و از اساس ناکافی» خواند و سیلی محکمی به رویکرد منفعلانه این غول فناوری زد.[3][5]

جرقه این خانه‌تکانی اساسی را یک محتوای ساختگی بسیار خاص و به شدت مخرب زد. یک عضو شورای شهر و فعال مسلمان در بریتانیا، خودش را هدف یک ویدیوی مستهجن تولید شده با هوش مصنوعی دید؛ یک جعل دیجیتال که دقیقاً برای تحقیر و ساکت کردن او در عرصه عمومی طراحی شده بود. وقتی این محتوا برای اولین بار گزارش شد، سیستم‌های خودکار و ناظران انسانی متا حسابی دست و پایشان را گم کردند و با فعال نگه داشتن این محتوا، نقص‌های جدی معماری نظارتی شرکت را به رخ کشیدند.[2][4][7]

هیئت نظارت در کالبدشکافی این اتفاق اصلاً با کلمات بازی نکرد. آن‌ها خاطرنشان کردند که چارچوب فعلی پلتفرم، بار اثبات را کاملاً روی دوش قربانی می‌اندازد و او را مجبور می‌کند در هزارتوی سیستم گزارش‌دهی سرگردان شود، آن هم در حالی که محتوای ساختگی همچنان دست به دست می‌چرخد و آبروی فرد را می‌برد. استدلال هیئت این بود که انتظار از قربانیان آزار برای اینکه نقش کارآگاه دیجیتال خودشان را بازی کنند، یک شکست سیستماتیک است.[3][4]

در واکنش به این وضعیت، هیئت نظارت ۹ خواسته سیاستی مشخص را برای بستن این رخنه‌های اجرایی صادر کرد. این‌ها فقط چند پیشنهاد دوستانه نیستند؛ این خواسته‌ها متا را ملزم می‌کنند که دیپ‌فیک‌های بدون رضایت را صراحتاً به عنوان آزار شدید دسته‌بندی کند، سیستم‌های تشخیص الگوریتمی خود را از نو بسازد و پروتکل‌های حذف فوری را اجرا کند که برای عمل کردن، منتظر درخواست دستی قربانی نمی‌مانند.[1][6][7]

برای فرهنگ اینترنت، این حکم یک نقطه عطف در حکمرانی دیجیتال محسوب می‌شود. گسترش سریع و دسترسی آسان به تولیدکنندگان تصویر هوش مصنوعی متن‌باز، آزارهای ساختگی را به یک سلاح دم‌دستی و روزمره تبدیل کرده است؛ سلاحی که به شکلی نامتناسب، زنان حاضر در عرصه عمومی را نشانه می‌گیرد. تا پیش از این، پلتفرم‌های بزرگ بیشتر با این تصاویر مثل یک معمای جذاب تکنولوژیک برخورد می‌کردند تا یک روش سنتی و به شدت مخرب برای سوءاستفاده.[7]

هیئت نظارت با قرار دادن متا در این تنگنا، عملاً در حال تعیین یک استاندارد صنعتی جدید برای کل اکوسیستم شبکه‌های اجتماعی است. اگر بزرگترین شبکه اجتماعی روی کره زمین دیگر نتواند پشت این بهانه پنهان شود که هوش مصنوعی مولد برای قانون‌گذاریِ موثر هنوز خیلی جدید است، پلتفرم‌های کوچکتر هم برای توجیه سیاست‌های سهل‌گیرانه خود کار بسیار سختی پیش رو خواهند داشت.[2][6]

حالا متا برای اجرای این ۹ دستورالعمل در حال مسابقه با زمان است. این شرکت باید به صورت علنی به یافته‌های هیئت پاسخ دهد و اجرای تغییرات الگوریتمی و سیاستیِ الزامی را آغاز کند؛ تغییری که نوید می‌دهد خط مبنای اینترنت برای ایمنی دیجیتال را از عذرخواهی‌های منفعلانه به دفاع پیشگیرانه ارتقا دهد.[5]