چگونه دولت آمریکا جلوی انتشار GPT-5.6 اوپن‌ای‌آی را گرفت: نگاهی به رژیم جدید ایمنی هوش مصنوعی

صنعت هوش مصنوعی پیشرو از یک آستانه تاریخی عبور کرده است. برای اولین بار، دولت ایالات متحده فعالانه جلوی انتشار عمومی یک مدل شاخص هوش مصنوعی را گرفته و GPT-5.6 بسیار مورد انتظار اوپن‌ای‌آی را تنها چند روز قبل از عرضه برنامه‌ریزی شده‌اش متوقف کرد. این مداخله نشان‌دهنده تشدید چشمگیر نظارت فدرال است و ثابت می‌کند که موانع نظارتی ایجاد شده طی دو سال گذشته، قدرت اجرایی واقعی دارند.[1]

این اقدام بلافاصله پس از تعلیق جهانی بی‌سابقه «کلود فیبل ۵» شرکت انتروپیک توسط وزارت بازرگانی صورت می‌گیرد. با این حال، این دو مورد مکانیسم‌های نظارتی کاملاً متفاوتی را نشان می‌دهند. تعلیق انتروپیک به دلیل نقض کنترل صادرات در مورد اینکه مدل به کجا و به چه کسی منتقل شده بود، رخ داد. اما مسدود شدن GPT-5.6، اساساً در مورد قابلیت‌های واقعی خود مدل است.[1][3]

برای درک اینکه چگونه به این نقطه رسیده‌ایم، باید به تحول خاموش «مؤسسه ایمنی هوش مصنوعی ایالات متحده» (US AISI) که زیر نظر «مؤسسه ملی استاندارد و فناوری» (NIST) قرار دارد، نگاه کرد. دو سال پیش، ایمنی هوش مصنوعی توسط تعهدات داوطلبانه کاخ سفید و خودنظارتی صنعت اداره می‌شد. امروز، این یک آزمون اجباری و الزام‌آور قانونی است که هر توسعه‌دهنده بزرگی باید از آن عبور کند.[1][2]

تحت چارچوب جدید، هر مدلی که از یک آستانه محاسباتی خاص فراتر رود – که اغلب به عنوان مدل «فرا مقیاس» یا «پیشرو» (فرانتیر) شناخته می‌شود – باید تحت ارزیابی دقیق پیش از استقرار توسط تیم‌های قرمز فدرال قرار گیرد. این بازرسان به دنبال باگ‌های نرم‌افزاری استاندارد یا خروجی‌های مغرضانه ساده نیستند؛ آنها به دنبال قابلیت‌های فاجعه‌بار هستند که تهدیدی مستقیم برای امنیت ملی یا ایمنی عمومی ایجاد می‌کنند.[2][4]

فرآیند ارزیابی به شدت بر سه بردار اصلی خطر تمرکز دارد. اولی، قابلیت‌های سایبری تهاجمی خودمختار است که آزمایش می‌کند آیا مدل می‌تواند به طور مستقل آسیب‌پذیری‌های روز صفر (zero-day) را در زیرساخت‌های حیاتی کشف و بهره‌برداری کند. دومی، شامل سنتز سلاح‌های شیمیایی یا بیولوژیکی است تا اطمینان حاصل شود که مدل از کمک به ایجاد تهدیدات فیزیکی خودداری می‌کند.[2]

بردار سوم، و شاید پیچیده‌ترین، «تکثیر خودکار عامل‌گونه» (Agentic Self-Proliferation) است. این مورد ظرفیت مدل را برای کپی کردن وزن‌های خود، به دست آوردن فضای سرور با استفاده از اعتبارنامه‌های دزدیده شده یا تولید شده، و فرار از دستورات خاموش شدن آزمایش می‌کند. به گفته محققانی که با پروتکل‌های آزمایش آشنا هستند، دولت در مراحل نهایی آموزش مدل، از یک «پنجره نظارتی» استفاده می‌کند تا این قابلیت‌های استدلالی را هنگام ظهور مشاهده کند.[1]

در حالی که جزئیات دقیق شکست GPT-5.6 محرمانه باقی مانده است، معماری مدل سرنخ‌های مهمی ارائه می‌دهد. GPT-5.6 به صراحت به عنوان یک سیستم عمیقاً عامل‌گونه طراحی شده بود، که قادر به اجرای گردش کارهای پیچیده و چند مرحله‌ای در سراسر اینترنت بدون نظارت مستمر انسانی بود. این مدل ساخته شده بود تا عمل کند، نه فقط پاسخ دهد.[1]

این سطح از خودمختاری دقیقاً همان چیزی است که کارشناسان امنیت ملی در مورد آن هشدار داده‌اند. اگر یک عامل هوش مصنوعی بتواند به طور خودمختار در وب برای رزرو پرواز، مدیریت امور مالی و مذاکره قراردادها حرکت کند، مهارت‌های اساسی لازم برای نفوذ به شبکه‌های امن برای جاسوسی یا حملات سایبری خودکار را نیز در اختیار دارد. مرز بین یک دستیار دیجیتالی مفید و یک عامل خودمختار خطرناک فوق‌العاده باریک است.[5]

«دفتر صنعت و امنیت» (BIS) که این مسدودسازی‌ها را اجرا می‌کند، مدل‌ها را به طور دائم ممنوع نمی‌کند. در عوض، یک «دستورالعمل اصلاحی» رسمی صادر می‌کند. اکنون اوپن‌ای‌آی موظف است قبل از ارزیابی مجدد GPT-5.6 برای انتشار عمومی، اقدامات حفاظتی ساختاری را اجرا کند – که احتمالاً شامل تنظیم دقیق همسویی عمیق، محدودکننده‌های رفتاری کدگذاری شده سخت، یا جراحی‌های معماری (lobotomies) می‌شود.[2][3]

این فرآیند اصلاحی از نظر فنی دشوار و از نظر مالی پرهزینه است. «فراموش کردن» یک قابلیت خاص در یک شبکه عصبی عظیم به سادگی حذف یک خط کد نیست. اغلب نیاز به بازآموزی بخش‌های قابل توجهی از مدل دارد، فرآیندی که ده‌ها میلیون دلار هزینه زمان محاسباتی دارد و خطر کاهش هوش کلی مدل را به همراه دارد.[4]

شوک‌های اقتصادی این اقدام نظارتی در حال حاضر در سراسر سیلیکون ولی موج می‌زند. غول‌های فناوری صدها میلیارد دلار بدهی برای ساخت مراکز داده فرا مقیاس متحمل شده‌اند و روی انتشار بی‌وقفه مدل‌های قدرتمندتر برای تولید درآمد و جلب رضایت سرمایه‌گذاران حساب کرده بودند.[1][4]

اگر دولت بتواند انتشار یک محصول شاخص را به طور نامحدود به تأخیر اندازد، بازده سرمایه‌گذاری برای این پروژه‌های زیرساختی عظیم به شدت نامشخص می‌شود. سرمایه‌گذاران اکنون مجبورند «تأخیر نظارتی» – زمانی که یک مدل در آزمایش فدرال گیر می‌کند یا تحت اصلاح اجباری قرار می‌گیرد – را در محاسبات مالی خود لحاظ کنند. این امر اساساً محاسبات مالی مسابقه تسلیحاتی هوش مصنوعی را تغییر می‌دهد.[4][5]

علاوه بر این، این وضعیت یک پویایی ژئوپلیتیکی پیچیده ایجاد می‌کند. در حالی که ایالات متحده موانع داخلی سختگیرانه‌ای اعمال می‌کند و مدل‌های پیشرو خود را مسدود می‌سازد، کشورهای رقیب به سرعت در حال پیشبرد اکوسیستم‌های هوش مصنوعی خود هستند. چالش سیاست‌گذاران، ایجاد تعادل بین نیاز به جلوگیری از آسیب‌های فاجعه‌بار و ضرورت حفظ رهبری فناوری جهانی است.[3][5]

برای عموم مردم و کاربران سازمانی، مسدود شدن GPT-5.6 یک شمشیر دو لبه است. از یک طرف، دسترسی به ابزاری را که وعده افزایش بهره‌وری بی‌سابقه و پیشرفت‌های علمی را می‌داد، به تأخیر می‌اندازد. از طرف دیگر، مدرکی ملموس و اطمینان‌بخش ارائه می‌دهد که دولت فعالانه جامعه را از فناوری‌های آزمایش نشده و بالقوه خطرناک محافظت می‌کند.[1][2]

در نهایت، رویدادهای این ماه نشان‌دهنده پایان قطعی دوران «سریع حرکت کن و چیزها را بشکن» برای هوش مصنوعی است. مرز دانش بشری اکنون به شدت محافظت می‌شود و عوارض عبور از آن، ایمنی دقیق، قابل تأیید و اثبات شده ریاضی است.[1]