آیا عجله جهانی برای ممنوعیت دیپ‌فیک‌های هوش مصنوعی، تولد خاموش یک حقیقت تحت کنترل دولت است؟

خلاصه: عجله جهانی برای ممنوعیت دیپ‌فیک‌های مخرب به آرامی در حال تبدیل شدن به چیزی بسیار بزرگتر است—یک زیرساخت دولتی برای تأیید حقیقت. دولت‌ها در ایالات متحده و اتحادیه اروپا، که تحت تأثیر تهدید واقعی دخالت در انتخابات و تصاویر غیرقانونی قرار گرفته‌اند، دیگر صرفاً عاملان بد را پس از وقوع مجازات نمی‌کنند. در عوض، آنها مدل‌های زیربنایی هوش مصنوعی را مجبور می‌کنند تا واترمارک‌های دائمی و قابل خواندن توسط ماشین را در هر قطعه از رسانه‌های ترکیبی که تولید می‌کنند، جاسازی کنند. اگرچه این اقدام به عنوان دفاعی ضروری در برابر فریب معرفی می‌شود، اما عملاً به دولت قدرت می‌دهد تا تعیین کند واقعیت معتبر چیست.[8]

فوریت پشت این تغییر نظارتی غیرقابل انکار است. شبکه‌های مولد تخاصمی (GANs) از پروژه‌های آکادمیک خاص به برنامه‌های کاربردی در سطح مصرف‌کننده تبدیل شده‌اند که قادر به تولید ویدئو و صدای فوق‌العاده واقعی در چند ثانیه هستند. در اواخر سال ۲۰۱۷، اصطلاح «دیپ‌فیک» وارد واژگان عمومی شد، زمانی که از فناوری متن‌باز تعویض چهره برای ایجاد رسانه‌های ترکیبی غیرقانونی استفاده شد. تا سال ۲۰۲۴، این فناوری تا جایی پیشرفت کرد که یک تماس خودکار دیپ‌فیک با تقلید صدای رئیس‌جمهور جو بایدن برای کاهش مشارکت رأی‌دهندگان در انتخابات مقدماتی نیوهمپشایر به کار گرفته شد، که تهدید فوری برای نهادهای دموکراتیک را نشان می‌دهد.[2][6][7]

سال‌ها، چارچوب قانونی پیرامون فریب دیجیتال کاملاً بر مسئولیت پس از انتشار متکی بود. اگر فردی از هوش مصنوعی برای ارتکاب کلاهبرداری، افترا یا دخالت در انتخابات استفاده می‌کرد، پس از انتشار محتوا تحت قوانین موجود تحت پیگرد قانونی قرار می‌گرفت. واکنش کمیسیون ارتباطات فدرال (FCC) به حادثه انتخابات مقدماتی نیوهمپشایر نمونه‌ای از این رویکرد انفعالی است. این سازمان از قانون حمایت از مصرف‌کننده تلفن استفاده کرد تا جریمه ۶ میلیون دلاری را برای سازنده تماس خودکار دیپ‌فیک پیشنهاد دهد و این اقدام را تنها پس از رسیدن صدای فریبنده به هزاران رأی‌دهنده مجازات کرد.[2]

با این حال، با انفجار حجم محتوای تولید شده توسط هوش مصنوعی، قانون‌گذاران به این نتیجه رسیده‌اند که تعقیب سازندگان فردی از نظر ریاضی غیرممکن است. هنگامی که یک مدل متن‌باز واحد می‌تواند هزاران تصویر ترکیبی در دقیقه تولید کند، انتظار برای انتشار، گزارش و بررسی محتوا تضمین می‌کند که خسارت قبلاً وارد شده است. این درک، یک چرخش اساسی در سیاست فناوری ایجاد کرده است: دولت‌ها به جای نظارت بر خروجی، اکنون به سمت تنظیم زیرساخت خودِ تولید حرکت می‌کنند.[8]

اتحادیه اروپا با قانون هوش مصنوعی خود، که اولین چارچوب نظارتی جامع هوش مصنوعی در جهان است، پیشگام این رویکرد فعالانه بوده است. اتحادیه اروپا فراتر از دستورالعمل‌های نظری، الزامات قانونی سختی را برای نحوه مدیریت رسانه‌های ترکیبی در سطح معماری تعیین کرده است. بر اساس ماده ۵۰ این قانون، که در آگوست ۲۰۲۶ اجرایی می‌شود، ارائه‌دهندگان سیستم‌های هوش مصنوعی مولد باید اطمینان حاصل کنند که خروجی‌های آنها در قالبی قابل خواندن توسط ماشین علامت‌گذاری شده و به طور جهانی به عنوان تولید شده یا دستکاری شده مصنوعی قابل تشخیص باشند.[3][5]

این صرفاً یک پیشنهاد برای انطباق داوطلبانه نیست. آیین‌نامه اجرایی کمیسیون اروپا در مورد شفافیت محتوای تولید شده توسط هوش مصنوعی حکم می‌کند که این نشانگرهای دیجیتال باید قوی، قابل تعامل و مقاوم در برابر دستکاری باشند. هدف این است که یک پاسخ ایمنی سیستمی در خود اینترنت ایجاد شود، که به پلتفرم‌های رسانه‌های اجتماعی، مرورگرهای وب و شبکه‌های ارتباطی اجازه می‌دهد تا رسانه‌های ترکیبی را قبل از رسیدن به مخاطبان انبوه به طور خودکار شناسایی و برچسب‌گذاری کنند و عملاً تأیید حقیقت را به کد زیربنایی برون‌سپاری کنند.[1]

ایالات متحده نیز در مسیری به طرز چشمگیری مشابه حرکت می‌کند، هرچند از طریق مجموعه‌ای پراکنده‌تر از ابتکارات فدرال و ایالتی. قانون پیشنهادی بزرگ هوش مصنوعی آمریکا (GAAIA) به دنبال ایجاد یک مبنای فدرال برای حکمرانی هوش مصنوعی است و فراتر از جریمه‌های انفعالی FCC عمل می‌کند. این قانون شامل دستورات سختگیرانه شفافیت است و ایجاد یک مرکز استانداردها و نوآوری هوش مصنوعی (CAISI) را پیشنهاد می‌کند که وظیفه ارزیابی قابلیت‌های مدل و مدیریت یک رژیم تأیید مستقل برای محتوای دیجیتال را بر عهده خواهد داشت.[4]

اگرچه قانون GAAIA شامل یک بند انقضای سه ساله برای بسیاری از مفاد خود است، اما زمینه را برای یک دستگاه متمرکز و تحت حمایت دولت فراهم می‌کند تا منشأ اطلاعات دیجیتال را تأیید کند. با دستور دادن به ارائه‌دهندگان هوش مصنوعی برای جاسازی نشانگرهای حقیقت تأیید شده توسط دولت در خروجی‌های خود، قانون‌گذاران به آرامی در حال ساخت سیستمی هستند که در آن اعتبار رسانه‌ها نه با تأیید روزنامه‌نگاری یا اجماع عمومی، بلکه با امضاهای رمزنگاری شده‌ای که دولت دستور داده است، تعیین می‌شود.[4][8]

نقص اساسی در این معماری حقیقتِ دستوری دولتی، شکنندگی فنی آن است. دانشمندان کامپیوتر و محققان هوش مصنوعی پیوسته هشدار می‌دهند که واترمارکینگ—فرآیند جاسازی یک سیگنال متمایز و قابل خواندن توسط ماشین در پیکسل‌ها یا امواج صوتی یک فایل—به طور مشهوری دشوار است. واترمارک‌های قابل مشاهده را می‌توان به راحتی توسط عاملان بد برش داد، و فراداده‌های نامرئی را می‌توان توسط ابزارهای متن‌باز حذف کرد یا توسط همان پلتفرم‌های رسانه‌های اجتماعی که وظیفه شناسایی آنها را دارند، فشرده‌سازی و از بین برد.[6][7]

علاوه بر این، اعمال این دستورات صرفاً بر «دیپ‌فیک‌های» مخرب به جای تمام محتوای تولید شده توسط هوش مصنوعی، یک مانع فنی غیرقابل عبور ایجاد می‌کند. برای واترمارک کردن انتخابی فقط رسانه‌های فریبنده، ارائه‌دهنده هوش مصنوعی باید دستور و نیت کاربر را در لحظه تولید به دقت طبقه‌بندی کند. این یک کار پرهزینه از نظر محاسباتی و بسیار ذهنی است که شرکت‌های هوش مصنوعی را مجبور می‌کند به عنوان داوران لحظه‌ای حقیقت و نیت عمل کنند، نقشی که نه برای انجام بی‌عیب و نقص آن مجهز هستند و نه از نظر قانونی محافظت می‌شوند.[1]

این بار نظارتی به طور نامتناسبی بر جامعه متن‌باز تأثیر می‌گذارد. در حالی که شرکت‌های بزرگ فناوری می‌توانند سیستم‌های اختصاصی و حلقه‌بسته بسازند که خروجی‌هایشان را به طور دائمی برچسب‌گذاری کنند، توسعه‌دهندگان متن‌باز وزن‌های خام مدل را منتشر می‌کنند که کاربران می‌توانند به دلخواه دانلود و اصلاح کنند. اگر دولت الزام کند که همه مدل‌های هوش مصنوعی ذاتاً از حذف واترمارک‌ها جلوگیری کنند، عملاً توسعه هوش مصنوعی متن‌باز را غیرقانونی می‌کند، زیرا پس از خروج مدل از سرورهای توسعه‌دهنده، انطباق قابل تضمین نیست.[4][8]

منتقدان استدلال می‌کنند که این پویایی یک خندق نظارتی بزرگ برای غول‌های فناوری موجود ایجاد می‌کند. دولت با تعیین استانداردهای انطباقی که فقط شرکت‌های چند میلیارد دلاری می‌توانند رعایت کنند، ناخواسته انحصار هوش مصنوعی مولد را به تعداد انگشت‌شماری از شرکت‌ها واگذار می‌کند. در همین حال، عاملان مخرب متعهد—همان اهداف این قوانین—به سادگی واترمارک‌ها را حذف می‌کنند یا مدل‌های خود را خارج از اکوسیستم تنظیم شده آموزش می‌دهند و بار سنگین انطباق را به طور کامل بر دوش توسعه‌دهندگان مشروع می‌گذارند.[1][4]

تمایل به ریشه‌کن کردن دیپ‌فیک‌ها ریشه در یک نیاز مشروع و فوری برای محافظت از یکپارچگی دموکراتیک و حریم خصوصی فردی دارد. با این حال، راه‌حل پیشنهادی نشان‌دهنده یک تغییر عمیق در نحوه تعیین حقیقت توسط جامعه است. با مجبور کردن زیرساخت اینترنت به دسته‌بندی خودکار محتوا به عنوان معتبر یا مصنوعی بر اساس استانداردهای دولتی، قانون‌گذاران به آرامی در حال ساخت ماشین‌آلات یک اکوسیستم اطلاعاتی تحت کنترل دولت هستند. سؤال دیگر این نیست که آیا دیپ‌فیک‌ها خطرناک هستند، بلکه این است که آیا درمان مستلزم تسلیم تعریف واقعیت به دولت است.[8]