قانون هوش مصنوعی اتحادیه اروپا ممنوعیت‌های جدیدی برای تصاویر صمیمی و سوءاستفاده جنسی تولیدشده توسط هوش مصنوعی وضع کرد؛ جریمه تا ۳۵ میلیون یورو

اتحادیه اروپا رسماً ممنوعیت‌های ماده ۵ قانون هوش مصنوعی را گسترش داد تا سیستم‌های هوش مصنوعی تولیدکننده تصاویر صمیمی بدون رضایت (NCII) و محتوای سوءاستفاده جنسی از کودکان (CSAM) را ممنوع کند. این ممنوعیت که از طریق بسته «اومنی‌بوس دیجیتال» (با نام رسمی مقررات ۱۷۴۴/۲۰۲۶) به اجرا درآمد، بالاترین سطح مجازات قانون را به همراه دارد. نقض این مقررات، ارائه‌دهندگان را در معرض جریمه‌هایی تا سقف €۳۵ میلیون یورو یا ۷ درصد از گردش مالی سالانه جهانی آن‌ها (هر کدام که بیشتر باشد) قرار می‌دهد. در حالی که بسته اومنی‌بوس چندین مهلت انطباق با ریسک بالا را تا سال‌های ۲۰۲۷ و ۲۰۲۸ به تعویق انداخت، جدول زمانی اجرای این ممنوعیت‌های جدید را تسریع کرد که از تاریخ ۲ دسامبر ۲۰۲۶ به طور کامل لازم‌الاجرا خواهند شد. این اقدام اولین اصلاحیه اساسی قانون هوش مصنوعی از زمان تصویب اولیه آن است و نشان‌دهنده نگرانی فزاینده نظارتی در مورد گسترش محتوای سوءاستفاده مصنوعی است.[1][2]

متن قانونی به طور صریح هم برنامه‌های کاربردی «برهنه‌ساز» (nudifier) که برای هدف خاصی ساخته شده‌اند و هم مدل‌های هوش مصنوعی مولد با هدف عمومی را هدف قرار می‌دهد. بر اساس ماده ۵ گسترش‌یافته، اگر تولید NCII یا CSAM یک نتیجه قابل پیش‌بینی و قابل بازتولید از طراحی، آموزش، معماری یا قابلیت‌های کاربردی سیستم باشد، آن سیستم ممنوع است. این یک تغییر اساسی در مقررات فناوری اروپا است که از تعدیل محتوا در مراحل بعدی (downstream) به سمت محدودیت قابلیت‌ها در مراحل اولیه (upstream) حرکت می‌کند. به جای اینکه صرفاً از پلتفرم‌ها بخواهد تصاویر غیرقانونی را پس از تولید و اشتراک‌گذاری حذف کنند، قانون هوش مصنوعی اکنون قابلیت تولید چنین تصاویری را نقض قطعی قوانین بازار می‌داند.[1][5]

با این حال، این قانون صرفاً به دلیل امکان سوءاستفاده نظری، ممنوعیت کلی برای همه مدل‌های مولد اعمال نمی‌کند. این مقررات یک دفاع حیاتی برای توسعه‌دهندگان فراهم می‌کند: یک سیستم ممنوع نیست اگر ارائه‌دهنده تدابیر حفاظتی معقول، متناسب و مؤثری را برای جلوگیری مطمئن از تولید محتوای ممنوعه اجرا کرده باشد. این امر مستلزم ارزیابی متمایز طراحی سیستم است و تمرکز قانونی را به سمت استحکام موانع ایمنی مدل تغییر می‌دهد. ارائه‌دهندگان باید نشان دهند که اقدامات فنی فعالی را برای مسدود کردن ایجاد NCII و CSAM انجام داده‌اند، نه اینکه صرفاً به شرایط خدمات یا سیاست‌های استفاده قابل قبول تکیه کنند.[1][7]

گنجاندن این ممنوعیت پس از حمایت شدید سازمان‌های حقوق کودک و بر اساس داده‌های نگران‌کننده در مورد مقیاس بهره‌کشی مصنوعی صورت گرفت. یک مطالعه مشترک در سال ۲۰۲۵ توسط یونیسف (UNICEF)، اِکپَت (ECPAT) و اینترپل (INTERPOL) در یازده کشور تخمین زد که از هر بیست و پنج کودک، یک نفر فاش کرده است که تصاویرش به دیپ‌فیک‌های جنسی دستکاری شده‌اند. فوریت قانون‌گذاری با حوادث برجسته اواخر سال ۲۰۲۵ تشدید شد، از جمله گزارش‌هایی مبنی بر اینکه یک چت‌بات تجاری بزرگ تقریباً ۲۳,۰۰۰ تصویر CSAM را طی یک دوره یازده روزه تولید کرده است. این رویدادها مبنای تجربی را برای قانون‌گذاران فراهم کرد تا استدلال کنند که چارچوب‌های موجود برای محافظت از جمعیت‌های آسیب‌پذیر در برابر قابلیت‌های هوش مصنوعی مولد کافی نیستند.[3][4]

پیش از این اصلاحیه، اتحادیه اروپا عمدتاً برای مبارزه با محتوای سوءاستفاده مصنوعی به قانون خدمات دیجیتال (Digital Services Act) متکی بود. قانون خدمات دیجیتال یک چارچوب واکنشی ایجاد می‌کند که از پلتفرم‌های آنلاین می‌خواهد به محض اطلاع از محتوای غیرقانونی، آن را با جدیت حذف کنند. با این حال، تحلیل‌های سیاستی یک شکاف حیاتی را برجسته کردند: قانون خدمات دیجیتال تنها زمانی اعمال می‌شود که محتوا در پلتفرم‌های تحت پوشش به اشتراک گذاشته شود و هیچ سازوکاری برای تنظیم تولید آفلاین محتوای سوءاستفاده یا توزیع آن از طریق کانال‌های رمزگذاری‌شده ارائه نمی‌دهد. ممنوعیت قانون هوش مصنوعی با هدف قرار دادن نقطه ایجاد، چارچوب موجود را تکمیل می‌کند و عملاً راه گریز برای تولید محلی و توزیع همتا به همتا را می‌بندد.[4]

با وجود الزام قانونی سخت‌گیرانه، شواهد مربوط به امکان‌پذیری فنی پیشگیری کامل ضعیف باقی می‌ماند. محققان امنیتی و تحلیلگران سیاستی به طور گسترده اذعان دارند که هیچ روش کاهش یا تدبیر فنی فعلی نمی‌تواند ظرفیت یک مدل مولد برای تولید NCII یا CSAM را به طور کامل حذف کند. انطباق نیازمند یک رویکرد لایه‌ای و دفاع عمیق است که شامل پاکسازی داده‌های آموزشی، آموزش رد قوی، طراحی ایمن دستورات (prompt-safe design) و موانع حفاظتی مداوم در زمان اجرا می‌شود. از آنجایی که ایمنی کامل در مدل‌های زبان بزرگ و تصویر به لحاظ ریاضی غیرممکن است، استاندارد نظارتی به جای پیشگیری مطلق، بر مفهوم «تدابیر حفاظتی مؤثر» تکیه می‌کند و جایی برای نرخ‌های شکست فنی باقی می‌گذارد.[4][6]

عدم قطعیت قابل توجهی در مورد نحوه تفسیر عملی این آستانه‌های فنی توسط دفتر هوش مصنوعی اروپا و مقامات نظارت بر بازار ملی باقی مانده است. تعریف دقیق آنچه که «نتیجه قابل پیش‌بینی و قابل بازتولید» محسوب می‌شود، هنوز در دادگاه آزمایش نشده و از طریق استانداردهای هماهنگ اروپایی نیز روشن نشده است. ارائه‌دهندگان در حال حاضر بدون معیارهای فنی واضح برای نرخ‌های شکست قابل قبول فعالیت می‌کنند. تا زمانی که کمیسیون اروپا دستورالعمل‌های رسمی را منتشر کند یا اولین اقدامات اجرایی سابقه ایجاد کنند، شرکت‌هایی که هوش مصنوعی مولد را در بازار اروپا مستقر می‌کنند، باید خودشان ارزیابی کنند که آیا مکانیسم‌های ایمنی داخلی آن‌ها استاندارد نامشخص تناسب را برآورده می‌کنند یا خیر.[1][5]

حادترین حوزه عدم قطعیت حقوقی و فنی پیرامون مدل‌های با وزن باز (open-weight models) است. از آنجایی که استقراردهندگان بعدی می‌توانند معماری‌های با وزن باز را برای حذف فیلترهای ایمنی و مکانیسم‌های رد تغییر دهند، هنوز مشخص نشده است که مسئولیت تحت ماده ۵ چگونه جریان خواهد یافت. اگر ارائه‌دهنده‌ای مدلی را با تدابیر حفاظتی مؤثر منتشر کند، اما کاربری عمداً آن تدابیر را برای تولید محتوای ممنوعه حذف کند، میزان مسئولیت ارائه‌دهنده اصلی مبهم باقی می‌ماند. قانون‌گذاران به زودی باید تصمیم بگیرند که آیا استاندارد «قابل پیش‌بینی معقول» توسعه‌دهندگان مدل‌های با وزن باز را ملزم می‌کند که تغییرات عمدی و خصمانه مدل‌های خود را پیش‌بینی کرده و از نظر فنی از آن جلوگیری کنند.[4][7]