عدم تبعیت توسعه‌دهندگان بزرگ هوش مصنوعی از قوانین شفافیت کالیفرنیا و اتحادیه اروپا

سال‌هاست که توسعه‌دهندگان هوش مصنوعی وعده می‌دادند که چارچوب‌های ایمنی داوطلبانه و خودتنظیمی برای محافظت از عموم در برابر دیپ‌فیک‌ها و محتوای مصنوعی کافی خواهد بود. اما از ۲ اوت ۲۰۲۶ (۱۱ مرداد ۱۴۰۵)، دوران خودنظارتی رسماً به پایان رسید. هم ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا و هم قانون شفافیت هوش مصنوعی کالیفرنیا (SB 942) اجرایی شدند و پلتفرم‌های اصلی هوش مصنوعی مولد را ملزم کردند که واترمارک‌های قابل خواندن توسط ماشین را جاسازی کرده و ابزارهای عمومی تشخیص را ارائه دهند.

تنش واضح است: فناوری تولید محتوای مصنوعی فوق‌واقع‌گرایانه در سطح جهانی گسترش یافته، اما زیرساخت‌های انطباق برای برچسب‌گذاری آن هنوز ایجاد نشده است. این صنعت اکنون با اولین آزمون واقعی اجرای مقرراتی خود روبرو است و نشانه‌های اولیه حاکی از آن است که بسیاری از برجسته‌ترین بازیگران برای این ضرب‌الاجل کاملاً آماده نبوده‌اند.[1][3]

یک تحقیق مشترک جدید توسط گروه حقوق دیجیتال WITNESS و رسانه تحقیقاتی The Indicator، شکاف انطباق شدیدی را در سراسر این بخش آشکار می‌کند. محققان با آزمایش سیزده توسعه‌دهنده اصلی هوش مصنوعی در برابر الزامات قانونی جدید، دریافتند که تقریباً نیمی از آن‌ها در حال حاضر این دستورالعمل‌ها را نقض می‌کنند. شش شرکت – از جمله Grok متعلق به xAI، Midjourney و تولیدکننده صوتی Suno – نتوانستند هیچ ابزار تشخیص عمومی اختصاصی برای خروجی‌های خود ارائه دهند.

این یافته‌ها نشان‌دهنده یک گسست جدی بین زبان بازاریابی استقرار ایمن هوش مصنوعی و ارائه واقعی ویژگی‌های شفافیت مورد نیاز است. برای پلتفرم‌هایی که روزانه میلیون‌ها تصویر و کلیپ صوتی مصنوعی تولید می‌کنند، نبود یک ابزار اولیه تشخیص منبع، آن‌ها را در نقض مستقیم قوانینی قرار می‌دهد که برای مهار فریب دیجیتال طراحی شده‌اند.[1][2]

هسته عملیاتی این قوانین جدید شفافیت بر واترمارکینگ نمونه‌برداری آماری توکن و فراداده‌های رمزنگاری شده متکی است. به جای تزریق نشانگرهای قابل مشاهده که می‌توانند به راحتی توسط عوامل مخرب حذف شوند، سیستم‌های سازگار مستقیماً در طول فرآیند تولید مداخله می‌کنند. برای تولید متن، زمان‌های اجرا، واژگان مدل را به مجموعه‌های توکن شبه‌تصادفی تقسیم می‌کنند که به صورت رمزنگاری کلیدگذاری شده‌اند و یک امضای قابل تشخیص ریاضی را بدون برهم زدن انسجام معنایی جاسازی می‌کنند.

برای تصاویر و صداهای مصنوعی، استانداردهای فراداده مانند ائتلاف برای منشأ و اصالت محتوا (C2PA) به طور عمیق در ساختار فایل جاسازی می‌شوند. قانون کالیفرنیا به طور خاص ایجاب می‌کند که هر ارائه‌دهنده هوش مصنوعی با حداقل یک میلیون کاربر ماهانه، یک ابزار تشخیص را برای عموم فراهم کند تا این امضاهای دقیق را بخواند.[2][3]

در حالی که هفت شرکت – از جمله گوگل، OpenAI، متا و ادوبی – ابزارهای تشخیص مورد نیاز را ارائه کردند، این تحقیق شکنندگی این سیستم‌ها را آشکار ساخت. داشتن یک ابزار با داشتن یک ابزار مؤثر یکسان نیست. هنگامی که محققان ابزارهای تشخیص موجود را با استفاده از فایل‌های کمی تغییر یافته یا فشرده شده آزمایش کردند، نتایج در همه موارد به طور قابل توجهی کاهش یافت.

تنها SynthID گوگل و ابزارهای تشخیص اختصاصی OpenAI توانستند در برابر تلاش‌های دستکاری مقاومت کنند و محتوای مصنوعی خود را پس از تغییر، به درستی شناسایی کنند. این امر یک شکاف حیاتی بین هدف نظارتی و واقعیت فنی را نشان می‌دهد: اجباری کردن یک ابزار تشخیص، تضمین نمی‌کند که آن ابزار در محیط آشفته و خصمانه اینترنت باز دوام بیاورد.[2]

این انتقال نظارتی همچنین یک آسیب‌پذیری ساختاری در نحوه توزیع مدل‌های هوش مصنوعی را آشکار می‌کند. در حالی که دروازه‌های API اختصاصی – مانند آن‌هایی که توسط Anthropic یا OpenAI مدیریت می‌شوند – می‌توانند واترمارکینگ را به شدت در زمان اجرا اعمال کنند، اکوسیستم‌های با وزن باز (open-weight) با واقعیت کاملاً متفاوتی روبرو هستند.

مهندسان پایین‌دستی که مدل‌های منبع باز را به صورت محلی میزبانی می‌کنند، کنترل کاملی بر پارامترهای رمزگشایی و منطق سفارشی دارند و به آن‌ها اجازه می‌دهد تا به راحتی الزامات واترمارکینگ را دور بزنند. اتحادیه اروپا تلاش می‌کند با قرار دادن تعهدات متمایز بر عهده هم ارائه‌دهندگان و هم استقراردهندگان، این مشکل را حل کند، اما اجرای انطباق بر روی معماری‌های غیرمتمرکز و خودمدیریتی، یک چالش حل نشده برای تنظیم‌کنندگانی است که به دنبال پوشاندن اینترنت با منشأ قابل تأیید هستند.[3][4]

ریسک مالی ناشی از عدم انطباق شدید است و شفافیت هوش مصنوعی را از یک مسئله روابط عمومی به یک خطر تجاری مادی تبدیل می‌کند. تحت قانون SB 942 کالیفرنیا، دادستان کل ایالت می‌تواند مجازات‌های مدنی ۵,۰۰۰ دلاری به ازای هر نقض، در روز، اعمال کند.

قانون هوش مصنوعی اتحادیه اروپا حتی مجازات‌های بیشتری دارد، با جریمه‌هایی که تا ۳۵ میلیون یورو یا هفت درصد از گردش مالی سالانه جهانی یک شرکت می‌رسد. با افزایش اجرای قانون، افسران انطباق، کالیفرنیا و اتحادیه اروپا را به عنوان معیار جدید در نظر می‌گیرند، زیرا می‌دانند که واشنگتن، اورگان و نیویورک در حال آماده‌سازی دستورالعمل‌های مشابهی برای سال آینده هستند.[1][2][5]

در نهایت، این تحقیق ثابت می‌کند که ضرب‌الاجل‌های قانونی به تنهایی نمی‌توانند فوراً مشکل منشأ را حل کنند. فناوری تشخیص محتوای مصنوعی همچنان یک بازی بی‌پایان موش و گربه در برابر دستکاری‌های خصمانه باقی می‌ماند. در حالی که دستورالعمل‌های اوت ۲۰۲۶ (مرداد ۱۴۰۵) صنعت را مجبور کرده‌اند که به جای فقط صحبت کردن، بالاخره ابزارهای شفافیت را ارائه دهد، شکست تقریباً نیمی از شرکت‌های آزمایش شده نشان می‌دهد که قدرت اجرایی مقررات در آستانه آزمایش قرار دارد.

ماه‌های آینده مشخص خواهد کرد که آیا تنظیم‌کنندگان مایل به اعمال حداکثر جریمه‌ها علیه توسعه‌دهندگان ناسازگار هستند، یا اینکه قوانین شفافیت به مجموعه دیگری از قوانینی تبدیل خواهند شد که صنعت فناوری به سادگی از آن‌ها پیشی می‌گیرد.[1][2][6]

هسته عملیاتی این قوانین جدید شفافیت بر واترمارکینگ نمونه‌برداری آماری توکن و فراداده‌های رمزنگاری شده متکی است. به جای تزریق نشانگرهای قابل مشاهده که می‌توانند به راحتی توسط عوامل مخرب حذف شوند، سیستم‌های سازگار مستقیماً در طول فرآیند تولید مداخله می‌کنند. برای تولید متن، زمان‌های اجرا، واژگان مدل را به مجموعه‌های توکن شبه‌تصادفی تقسیم می‌کنند که به صورت رمزنگاری کلیدگذاری شده‌اند و یک امضای قابل تشخیص ریاضی را بدون برهم زدن انسجام معنایی جاسازی می‌کنند.

برای تصاویر و صداهای مصنوعی، استانداردهای فراداده مانند ائتلاف برای منشأ و اصالت محتوا (C2PA) به طور عمیق در ساختار فایل جاسازی می‌شوند. قانون کالیفرنیا به طور خاص ایجاب می‌کند که هر ارائه‌دهنده هوش مصنوعی با حداقل یک میلیون کاربر ماهانه، یک ابزار تشخیص را برای عموم فراهم کند تا این امضاهای دقیق را بخواند.[2][3]

در حالی که هفت شرکت – از جمله گوگل، OpenAI، متا و ادوبی – ابزارهای تشخیص مورد نیاز را ارائه کردند، این تحقیق شکنندگی این سیستم‌ها را آشکار ساخت. داشتن یک ابزار با داشتن یک ابزار مؤثر یکسان نیست. هنگامی که محققان ابزارهای تشخیص موجود را با استفاده از فایل‌های کمی تغییر یافته یا فشرده شده آزمایش کردند، نتایج در همه موارد به طور قابل توجهی کاهش یافت.

تنها SynthID گوگل و ابزارهای تشخیص اختصاصی OpenAI توانستند در برابر تلاش‌های دستکاری مقاومت کنند و محتوای مصنوعی خود را پس از تغییر، به درستی شناسایی کنند. این امر یک شکاف حیاتی بین هدف نظارتی و واقعیت فنی را نشان می‌دهد: اجباری کردن یک ابزار تشخیص، تضمین نمی‌کند که آن ابزار در محیط آشفته و خصمانه اینترنت باز دوام بیاورد.[2]

این انتقال نظارتی همچنین یک آسیب‌پذیری ساختاری در نحوه توزیع مدل‌های هوش مصنوعی را آشکار می‌کند. در حالی که دروازه‌های API اختصاصی – مانند آن‌هایی که توسط Anthropic یا OpenAI مدیریت می‌شوند – می‌توانند واترمارکینگ را به شدت در زمان اجرا اعمال کنند، اکوسیستم‌های با وزن باز (open-weight) با واقعیت کاملاً متفاوتی روبرو هستند.

مهندسان پایین‌دستی که مدل‌های منبع باز را به صورت محلی میزبانی می‌کنند، کنترل کاملی بر پارامترهای رمزگشایی و منطق سفارشی دارند و به آن‌ها اجازه می‌دهد تا به راحتی الزامات واترمارکینگ را دور بزنند. اتحادیه اروپا تلاش می‌کند با قرار دادن تعهدات متمایز بر عهده هم ارائه‌دهندگان و هم استقراردهندگان، این مشکل را حل کند، اما اجرای انطباق بر روی معماری‌های غیرمتمرکز و خودمدیریتی، یک چالش حل نشده برای تنظیم‌کنندگانی است که به دنبال پوشاندن اینترنت با منشأ قابل تأیید هستند.[3][4]

ریسک مالی ناشی از عدم انطباق شدید است و شفافیت هوش مصنوعی را از یک مسئله روابط عمومی به یک خطر تجاری مادی تبدیل می‌کند. تحت قانون SB 942 کالیفرنیا، دادستان کل ایالت می‌تواند مجازات‌های مدنی ۵,۰۰۰ دلاری به ازای هر نقض، در روز، اعمال کند.

قانون هوش مصنوعی اتحادیه اروپا حتی مجازات‌های بیشتری دارد، با جریمه‌هایی که تا ۳۵ میلیون یورو یا هفت درصد از گردش مالی سالانه جهانی یک شرکت می‌رسد. با افزایش اجرای قانون، افسران انطباق، کالیفرنیا و اتحادیه اروپا را به عنوان معیار جدید در نظر می‌گیرند، زیرا می‌دانند که واشنگتن، اورگان و نیویورک در حال آماده‌سازی دستورالعمل‌های مشابهی برای سال آینده هستند.[1][2][5]

در نهایت، این تحقیق ثابت می‌کند که ضرب‌الاجل‌های قانونی به تنهایی نمی‌توانند فوراً مشکل منشأ را حل کنند. فناوری تشخیص محتوای مصنوعی همچنان یک بازی بی‌پایان موش و گربه در برابر دستکاری‌های خصمانه باقی می‌ماند. در حالی که دستورالعمل‌های اوت ۲۰۲۶ (مرداد ۱۴۰۵) صنعت را مجبور کرده‌اند که به جای فقط صحبت کردن، بالاخره ابزارهای شفافیت را ارائه دهد، شکست تقریباً نیمی از شرکت‌های آزمایش شده نشان می‌دهد که قدرت اجرایی مقررات در آستانه آزمایش قرار دارد.

ماه‌های آینده مشخص خواهد کرد که آیا تنظیم‌کنندگان مایل به اعمال حداکثر جریمه‌ها علیه توسعه‌دهندگان ناسازگار هستند، یا اینکه قوانین شفافیت به مجموعه دیگری از قوانینی تبدیل خواهند شد که صنعت فناوری به سادگی از آن‌ها پیشی می‌گیرد.[1][2][6]