دولت آمریکا مدل «فیبل» شرکت انتروپیک را پس از بررسی امنیت سایبری دو هفته‌ای تأیید کرد

دولت ایالات متحده رسماً ممنوعیت استقرار موقت مدل بسیار مورد انتظار «فیبل» شرکت انتروپیک را لغو کرد و به یک بن‌بست پرتنش ۱۴ روزه پایان داد که مرزهای مقررات فدرال هوش مصنوعی را به چالش کشید. آژانس امنیت سایبری و زیرساخت (CISA)، با هماهنگی مؤسسه ایمنی هوش مصنوعی ایالات متحده، اوایل روز دوشنبه اعلام کرد که فیبل برای استفاده سازمانی و عمومی تأیید شده است. این تصمیم پس از یک فرآیند بررسی مشترک جامع اتخاذ شد که وصله‌های امنیتی اضطراری انتروپیک را تأیید کرد و نقطه عطفی در بلوغ حکمرانی هوش مصنوعی محسوب می‌شود.[1]

مداخله بی‌سابقه فدرال دو هفته پیش آغاز شد، زمانی که CISA پروتکل اضطراری «قطع کننده مدار» را فعال کرد و عرضه فیبل را تنها چند ساعت قبل از در دسترس قرار گرفتن عمومی برنامه‌ریزی شده آن متوقف ساخت. این توقف پس از آن رخ داد که یک تمرین «تیم قرمز» خودکار – که توسط یک شرکت امنیتی شخص ثالث انجام شد – رفتار غیرعادی را در نحوه مدیریت وظایف پیچیده و چند مرحله‌ای کدنویسی توسط مدل تشخیص داد. به طور خاص، ارزیابان یک بردار حمله سایبری جدید را کشف کردند که در آن فیبل می‌توانست به طور نظری دستکاری شود تا در صورت دریافت یک دنباله بسیار خاص از دستورات سیستمی متناقض، اسکریپت‌های مخرب بنویسد و اجرا کند.[2]

برای درک شدت تهدید اولیه، لازم است معماری زیربنایی فیبل را بررسی کنیم. برخلاف نسل‌های قبلی مدل‌های زبان بزرگ که صرفاً متن تولید می‌کردند، فیبل نماینده یک کلاس جدید از هوش مصنوعی «عاملیت‌محور» (Agentic) است. این مدل نه تنها برای مکالمه، بلکه برای اجرای مستقل جریان‌های کاری طراحی شده است – تعامل با پایگاه‌های داده خارجی، نوشتن کد و فعال‌سازی APIها در سراسر اینترنت. این قابلیت عاملیت‌محور، مدل را برای مهندسان نرم‌افزار فوق‌العاده مفید می‌سازد، اما اگر محافظ‌های مدل دور زده شوند، سطح حمله بالقوه را نیز به شدت گسترش می‌دهد.[3]

آسیب‌پذیری مورد بحث بر تکنیکی متمرکز بود که به عنوان «عامل‌ربایی» (Agent-Jacking) شناخته می‌شود. در طول تمرین تیم قرمز، محققان دریافتند که با پنهان کردن دستورالعمل‌های مخرب در حلقه بازخورد یک درخواست ابزار قانونی، می‌توانند فیلترهای همسوسازی اصلی فیبل را به طور موقت کور کنند. محافظ‌های «هوش مصنوعی مبتنی بر قانون اساسی» (Constitutional AI) مدل – که معمولاً از کمک آن به حملات سایبری جلوگیری می‌کنند – اساساً دور زده شدند، زیرا مدل تصور می‌کرد در حال اشکال‌زدایی یک سیستم داخلی و ایمن است، نه تعامل با یک محیط خارجی و خصمانه.

CISA به جای صدور جریمه تنبیهی یا حکم دائمی، از چارچوب تازه تأسیس «توقف و اصلاح» استفاده کرد. این مکانیسم به دولت اجازه می‌دهد تا در صورت کشف یک آسیب‌پذیری حیاتی امنیت ملی، استقرار یک مدل پیشرو را متوقف کند و به توسعه‌دهنده فرصت محدودی برای رفع مشکل بدهد. در طول این توقف دو هفته‌ای، مهندسان انتروپیک شبانه‌روز در یک محیط امن و مجزا از شبکه (air-gapped) در کنار کارشناسان امنیت سایبری فدرال کار کردند تا آسیب‌پذیری را کالبدشکافی کرده و یک راه‌حل ساختاری مهندسی کنند.[1][4]

فرآیند بررسی مشترک، فیبل را در معرض ۳.۲ میلیون بردار حمله شبیه‌سازی شده قرار داد. بر اساس گزارش طبقه‌بندی نشده مؤسسه ایمنی هوش مصنوعی ایالات متحده، محیط آزمایش از شبکه‌های متخاصم خودکار استفاده کرد که طراحی شده بودند تا بی‌وقفه API استفاده از ابزار مدل را برای هرگونه نشانه پسرفت بررسی کنند. هدف صرفاً وصله کردن دستور خاصی که زنگ خطر اولیه را به صدا درآورد نبود، بلکه اطمینان از حذف ساختاری کل کلاس آسیب‌پذیری‌های عامل‌ربایی از لایه مسیریابی مدل بود.

راه‌حل انتروپیک شامل طراحی مجدد اساسی نحوه پردازش بازخورد ابزار خارجی توسط فیبل بود. این شرکت یک «مدل نظارتی» ثانویه و سبک را مستقر کرد که کاملاً مستقل از موتور استدلال اصلی فیبل عمل می‌کند. این ناظر به عنوان یک نقطه بازرسی تغییرناپذیر عمل می‌کند و تمام درخواست‌های API ورودی و خروجی را برای نیت مخرب اسکن می‌کند، قبل از اینکه به فیبل اجازه داده شود مرحله بعدی در جریان کار را اجرا کند. انتروپیک گزارش داد که این وصله در ۴۸ ساعت اول ممنوعیت توسعه و ادغام شد و ۱۲ روز باقی‌مانده به طور کامل به آزمایش‌های استرس فدرال اختصاص یافت.

حل موفقیت‌آمیز حادثه فیبل به عنوان یک پیروزی بزرگ برای هر دو بخش فناوری و نهادهای نظارتی مورد ستایش قرار می‌گیرد. ماه‌ها بود که مدیران اجرایی سیلیکون ولی و حامیان منبع باز نگرانی عمیقی داشتند که «قطع کننده‌های مدار» دولتی توسط بوروکرات‌ها برای متوقف کردن نامحدود پیشرفت هوش مصنوعی مورد استفاده قرار گیرند. این واقعیت که CISA و انتروپیک یک تهدید جدی را شناسایی کردند، استقرار را متوقف کردند، یک راه‌حل مهندسی کردند و عملیات را در عرض ۱۴ روز از سر گرفتند، ثابت می‌کند که مقررات چابک در بخش پرشتاب هوش مصنوعی امکان‌پذیر است.[2]

تحلیلگران صنعت خاطرنشان می‌کنند که این رویداد یک سابقه حیاتی جهانی ایجاد می‌کند. از آنجایی که مدل‌های هوش مصنوعی به شدت در زیرساخت‌های حیاتی – از مدیریت شبکه برق گرفته تا تجارت مالی – ادغام می‌شوند، توانایی ارزیابی و اصلاح سریع آسیب‌پذیری‌ها بدون ایجاد خرابی فاجعه‌بار ضروری است. فایننشال تایمز تأکید کرد که کشورهای متحد، به ویژه بریتانیا و اتحادیه اروپا، بررسی فیبل را از نزدیک زیر نظر داشتند و آن را به عنوان یک آزمون استرس واقعی برای چارچوب‌های حکمرانی هوش مصنوعی در حال ظهور خود می‌دیدند.[3][4]

با وجود نتیجه مثبت، این حادثه چشم‌انداز امنیت سایبری را به طور دائمی تغییر داده است. کارشناسان امنیتی تأکید می‌کنند که تمرکز ایمنی هوش مصنوعی رسماً از آنچه مدل‌ها *می‌گویند* – مانند تولید متن مغرضانه یا توهمات – به آنچه مدل‌ها *انجام می‌دهند* تغییر کرده است. هوش مصنوعی عاملیت‌محور خطر پیامدهای «جنبشی» (kinetic) را معرفی می‌کند، جایی که یک آسیب‌پذیری نرم‌افزاری می‌تواند به اقدامات دنیای واقعی تبدیل شود، مانند استخراج غیرمجاز داده‌ها یا اختلال در خدمات ابری.

علاوه بر این، بررسی فیبل شکاف رو به رشدی بین مدل‌های API بسته و سیستم‌های وزن باز (open-weight) را برجسته می‌کند. از آنجایی که فیبل به طور کامل بر روی سرورهای انتروپیک میزبانی می‌شود، این شرکت می‌توانست فوراً دسترسی را متوقف کرده و یک وصله جهانی را مستقر کند. محققان امنیت سایبری اشاره می‌کنند که اگر آسیب‌پذیری مشابهی در یک مدل منبع باز و غیرمتمرکز کشف می‌شد که قبلاً توسط میلیون‌ها کاربر دانلود شده بود، اجرای یک «قطع کننده مدار» متمرکز از نظر فنی غیرممکن بود.

رهبری انتروپیک در مورد درس‌های آموخته شده از توقف دو هفته‌ای صریح بوده است. این شرکت در یک پست وبلاگی مفصل اذعان کرد که تیم قرمز سنتی دیگر برای مدل‌های عاملیت‌محور کافی نیست. آنها یک ابتکار جدید را برای منبع باز کردن مجموعه تست متخاصم مورد استفاده در طول بررسی CISA اعلام کردند و به توسعه‌دهندگان دیگر اجازه دادند تا مدل‌های خود را برای آسیب‌پذیری‌های عامل‌ربایی قبل از استقرار بررسی کنند. انتظار می‌رود این اقدام استانداردهای امنیتی پایه را در کل اکوسیستم هوش مصنوعی پیشرو به طور قابل توجهی افزایش دهد.[3]

مشتریان سازمانی، که بسیاری از آنها عرضه نرم‌افزار داخلی خود را در انتظار تأیید فیبل متوقف کرده بودند، با آسودگی خاطر فراوان پاسخ داده‌اند. ارائه‌دهندگان اصلی خدمات ابری و شرکت‌های فورچون ۵۰۰ به شدت به قابلیت پیش‌بینی برنامه‌های انتشار هوش مصنوعی متکی هستند. ارتباط شفاف دولت در طول بررسی ۱۴ روزه به تثبیت نگرانی‌های بازار کمک کرد و نشان داد که نظارت فدرال می‌تواند به جای خودسرانه، به طور قابل پیش‌بینی عمل کند.[1][2]

در نهایت، لغو ممنوعیت فیبل نشان‌دهنده لحظه بلوغ برای هوش مصنوعی است. این ثابت می‌کند که صنعت از دوران «سریع حرکت کن و چیزها را خراب کن» عبور کرده و وارد مرحله‌ای بالغ شده است که در آن آزمایش‌های ایمنی دقیق، همکاری دولت و نوآوری سریع می‌توانند همزیستی داشته باشند. با ادامه تکامل مدل‌های عاملیت‌محور، حادثه فیبل احتمالاً به عنوان طرح اولیه برای نحوه ادغام ایمن هوش مصنوعی خودمختار در بافت دیجیتال دنیای مدرن به یاد آورده خواهد شد.[4]