اتحادیه اروپا از طرح اقدام ژوئیه ۲۰۲۶ برای تأمین مالی ارزیابی ایمنی پیش از عرضه مدل‌های پیشرفته هوش مصنوعی رونمایی کرد

در ۷ ژوئیه ۲۰۲۶، کمیسیون اروپا از طرح اقدام گسترده‌ای در مورد امنیت سایبری و هوش مصنوعی رونمایی کرد که هدف آن ارزیابی سیستماتیک ایمنی مدل‌های پیشرفته هوش مصنوعی پیش از ورود به بازار آزاد است.[1][3]

این چارچوب که در بیانیه مطبوعاتی IP/26/1544 به تفصیل آمده، یک قانون جدید نیست. بلکه به عنوان سازوکار فنی و مالی مورد نیاز برای اجرای قانون مهم هوش مصنوعی اتحادیه اروپا (EU AI Act) عمل می‌کند، که مقررات آن برای هوش مصنوعی با اهداف عمومی (GPAI) در ۲ اوت ۲۰۲۶ لازم‌الاجرا می‌شود.[2][4]

هِنا ویرکونِن، معاون اجرایی کمیسیون، این طرح را به عنوان یک تحول ضروری در دفاع اروپا معرفی کرد و خاطرنشان ساخت که هوش مصنوعی ماهیت امنیت سایبری را به طور اساسی تغییر می‌دهد. این ابتکار طراحی شده است تا اطمینان حاصل شود که مدل‌های پیشگام هوش مصنوعی به عنوان سپر برای زیرساخت‌های اروپایی عمل می‌کنند، نه سلاحی برای مهاجمان.[2]

فوریت پشت این طرح اقدام ناشی از یک تغییر شدید در چشم‌انداز امنیت سایبری است. بر اساس تحلیل‌های برجسته شده توسط CERT-EU، میانگین زمان بین عمومی شدن یک آسیب‌پذیری نرم‌افزاری و اولین بهره‌برداری واقعی از آن به «منفی هفت روز» کاهش یافته است.[2]

این بازه زمانی منفی به این معنی است که بازیگران تهدید، که به طور فزاینده‌ای با هوش مصنوعی مولد مسلح شده‌اند، قبل از اینکه فروشندگان نرم‌افزار حتی بتوانند یک وصله (پچ) منتشر کنند، از نقص‌ها سوءاستفاده می‌کنند. سیستم‌های مدرن هوش مصنوعی می‌توانند توضیحات یک آسیب‌پذیری را دریافت کرده و در عرض چند دقیقه یک اکسپلویت (کد مخرب) عملیاتی تولید کنند، که اساساً جدول زمانی سنتی مدیریت وصله‌ها را مختل می‌کند.[2]

برای مقابله با این وضعیت، ستون اول طرح اقدام بر ارزیابی ایمنی پیش از عرضه به بازار تمرکز دارد. تا سال ۲۰۲۷، کمیسیون قصد دارد یک ظرفیت اختصاصی در سطح اتحادیه اروپا ایجاد کند تا مدل‌های پیشرفته را به طور خاص از نظر خطرات امنیت سایبری، پیش از استقرار، تحت آزمایش‌های سخت قرار دهد.[3][5]

این فرآیند ارزیابی به شدت متکی بر یک پلتفرم تست امن است که قرار است تا پایان سال ۲۰۲۶ راه‌اندازی شود. این پلتفرم که به طور مشترک توسط آژانس امنیت سایبری اتحادیه اروپا (ENISA) و مرکز تحقیقات مشترک (JRC) توسعه یافته است، یک محیط «سندباکس» (جعبه شنی) کنترل‌شده را فراهم خواهد کرد.[1][2][4]

در داخل این سندباکس، قانون‌گذاران و حسابرسان مستقل، «تیم قرمز» (red-teaming) سخت‌گیرانه‌ای را انجام خواهند داد—حملات سایبری شبیه‌سازی شده‌ای که برای بررسی تدابیر حفاظتی یک مدل طراحی شده‌اند. ارزیاب‌ها آزمایش خواهند کرد که آیا یک مدل از نوشتن کد مخرب خودداری می‌کند یا برعکس، آیا می‌توان به راحتی آن را «جیل‌بریک» (jailbreak) کرد تا در استقرار باج‌افزار کمک کند.

فراتر از محدود کردن استفاده مخرب، طرح اقدام همچنین به دنبال توانمندسازی مدافعان است. کمیسیون، در کنار ENISA، در حال تدوین یک «نقشه راه اروپایی» (European Blueprint) برای دسترسی ساختاریافته به مدل‌های پیشرفته هوش مصنوعی است.[1][5]

این نقشه راه نحوه دسترسی امن سازمان‌های دولتی و خصوصی—از آژانس‌های ملی سایبری گرفته تا اپراتورهای زیرساخت‌های حیاتی در بخش انرژی و حمل و نقل—به مدل‌های پیشگام برای خودکارسازی تشخیص تهدید و واکنش به حوادث خود را هدایت خواهد کرد.[4]

این چارچوب همچنین شامل تدابیر اضطراری برای تضمین این است که مدافعان اروپایی حتی اگر یک ارائه‌دهنده تجاری در طول یک بحران ژئوپلیتیکی تلاش کند دسترسی را محدود کند، همچنان به مدل‌های حیاتی هوش مصنوعی دسترسی داشته باشند. مشارکت‌های تجاری در حال حاضر در حال انطباق هستند و توسعه‌دهندگان بزرگ، دسترسی اختصاصی دفاع سایبری به نهادهای اروپایی را تحت این چارچوب جدید گسترش می‌دهند.[5][6]

ستون‌های دوم و سوم این طرح بر آمادگی اکوسیستم و افزایش ظرفیت‌های داخلی اروپا تمرکز دارند. برای تحریک بازار محلی، کمیسیون در حال راه‌اندازی «چالش بزرگ هوش مصنوعی برای امنیت سایبری» (Grand Challenge on AI for Cybersecurity) است، که یک رقابت تأمین مالی طراحی شده برای تشویق استارتاپ‌ها و محققان اروپایی به ساخت ابزارهای دفاعی هوش مصنوعی مستقل است.[1][2]

این فشار برای استقلال (حاکمیت دیجیتال) حیاتی است. اتکا کامل به مدل‌های هوش مصنوعی توسعه‌یافته خارجی برای امنیت سایبری ملی، خطرات زنجیره تأمین را به همراه دارد. اتحادیه اروپا امیدوار است با تأمین مالی نوآوری محلی، از زیرساخت‌های موجود خود، از جمله شبکه «کارخانه‌های هوش مصنوعی» (AI Factories) و ابررایانه‌های غول‌پیکر آتی خود، بهره ببرد.[1]

طرح اقدام با چندین دستورالعمل موجود تلاقی دارد و یک شبکه نظارتی یکپارچه ایجاد می‌کند. این طرح مکمل قانون تاب‌آوری سایبری (Cyber Resilience Act) است که سخت‌افزار و نرم‌افزار امن در طراحی را تا اواخر سال ۲۰۲۷ الزامی می‌کند، و دستورالعمل NIS2 که الزامات سختگیرانه‌ای برای مدیریت ریسک در بخش‌های حیاتی اعمال می‌کند.[1][3]

برای توسعه‌دهندگان هوش مصنوعی، طرح اقدام شفافیت مورد نیاز را فراهم می‌کند. در حالی که قانون هوش مصنوعی اتحادیه اروپا حکم می‌کند که ارائه‌دهندگان سیستم‌های پرخطر باید خطرات قابل پیش‌بینی را کاهش دهند، طرح جدید دقیقاً مشخص می‌کند که این خطرات چگونه اندازه‌گیری خواهند شد و چه کسی این اندازه‌گیری را انجام خواهد داد.[4]

با این حال، مکانیسم ارزیابی پیش از عرضه به بازار، عدم قطعیت‌های ذاتی را به همراه دارد. مدل‌های هوش مصنوعی غیرقطعی هستند؛ آنها هر بار برای یک ورودی مشخص، خروجی دقیقاً یکسانی تولید نمی‌کنند. طراحی تست‌های استاندارد شده‌ای که به طور قابل اعتماد یک مدل را «ایمن» تأیید کنند، همچنان یک چالش علمی حل نشده باقی مانده است.

علاوه بر این، خط بین یک ابزار دفاعی امنیت سایبری و یک سلاح تهاجمی به طرز مشهوری باریک است. مدلی که قادر به شناسایی یک آسیب‌پذیری در شبکه یک شرکت برای وصله کردن آن است، به همان اندازه قادر است آن آسیب‌پذیری را برای بهره‌برداری پیدا کند.

با نزدیک شدن به تاریخ اجرای مقررات GPAI قانون هوش مصنوعی در اوت ۲۰۲۶، کمیسیون اروپا در تلاش است تا این چارچوب را عملیاتی کند. موفقیت طرح اقدام تعیین خواهد کرد که آیا اروپا می‌تواند از قدرت دفاعی هوش مصنوعی استفاده کند و در عین حال خطرناک‌ترین قابلیت‌های آن را از دسترس بازیگران تهدید دور نگه دارد.[4]