اوپن‌ای‌آی توسعه مدل آسترا را پس از رسیدن به آستانه «بحرانی» سایبری متوقف کرد

صنعت هوش مصنوعی در حال حاضر درگیر رقابتی برای ساخت توانمندترین مدل‌ها است، اما یک پرسش ناخوشایند همواره در خط پایان مطرح بوده است: چه اتفاقی می‌افتد اگر یک سیستم قبل از تکمیل شدن، در هک کردن بیش از حد ماهر شود؟ اوپن‌ای‌آی با توقف پروژه شاخص بعدی خود، اولین پاسخ مشخص را ارائه کرده است.[1][2]

در اقدامی بی‌سابقه برای یک آزمایشگاه هوش مصنوعی پیشرو، اوپن‌ای‌آی اعلام کرد که تمام مسیرهای توسعه داخلی مدل آتی خود، «آسترا»، را که با کنترل‌های امنیتی ایزوله (air-gapped) تازه وضع شده مطابقت ندارند، متوقف کرده است. این توقف پس از آن رخ داد که ارزیابی‌های داخلی اولیه، جهش‌های عظیمی در توانایی‌های کدنویسی عاملی و امنیت سایبری این مدل نشان داد.[3][4]

به گفته این شرکت، عملکرد آسترا به اندازه‌ای قوی بود که ارزیاب‌ها «نمی‌توانند احتمال رسیدن» مدل به آستانه خطر «بحرانی» (Critical) تحت چارچوب آمادگی اوپن‌ای‌آی را رد کنند. این اولین بار است که یک سیستم هوش مصنوعی به بالاترین پله نردبان خطر این شرکت نزدیک می‌شود؛ مدل‌های پیشرو قبلی، از جمله GPT-۵.۶-Sol که اخیراً مستقر شده، در آستانه «بالا» (High) متوقف شده بودند.[1][7]

برای درک اهمیت موضوع، لازم است از چارچوب علمی-تخیلی فراتر رفته و توانایی واقعی را بررسی کنیم. بر اساس چارچوب اوپن‌ای‌آی، تعیین سطح «بحرانی» در امنیت سایبری به این معنی است که مدل می‌تواند به صورت تئوری، اکسپلویت‌های عملیاتی روز صفر (zero-day exploits) را علیه سیستم‌های مقاوم و واقعی، بدون دخالت انسان، شناسایی و توسعه دهد. این سطح همچنین زمانی اعمال می‌شود که سیستم بتواند حملات سایبری سرتاسری را تنها بر اساس یک هدف سطح بالا طراحی و اجرا کند.[2][3]

نکته مهم این است که آسترا هنوز عرضه نشده و به طور قطعی نیز «بحرانی» طبقه‌بندی نشده است. این مدل همچنان یک مدل داخلی و منتشر نشده باقی مانده است. این توقف یک اقدام پیشگیرانه است که توسط معیارهای داخلی آغاز شده، نه پاسخی به فرار یک هوش مصنوعی سرکش از محیط آزمایشی. اوپن‌ای‌آی صراحتاً توضیح داد که آسترا در حوادث سایبری اخیر که در آن مدل‌های دیگر زیرساخت‌های شخص ثالث را در طول آزمایش نقض کردند، دخالتی نداشته است.[2][4]

واکنش اوپن‌ای‌آی شامل قرنطینه شدید محیط توسعه است. آسترا اکنون به تنظیمات آزمایشی ایزوله با دسترسی محدود به شبکه و ابزارها محدود شده است. این شرکت رمزگذاری پیشرفته‌ای را برای وزن‌های مدل پیاده‌سازی کرده و نظارت جهانی «زنجیره فکری» (chain-of-thought) را مستقر کرده است که برای قطع خودکار اقدامات پرخطر در تمام برنامه‌های عاملی طراحی شده است.[1][3]

یک جریان بازاریابی متمایز در پس این اعلامیه وجود دارد. در حالی که هشدار سایبری «بحرانی» نگران‌کننده به نظر می‌رسد، اما به عنوان نمایشی بسیار آشکار عمل می‌کند که نشان می‌دهد نرده‌های ایمنی خودتحمیلی اوپن‌ای‌آی دقیقاً همانطور که تبلیغ شده‌اند، کار می‌کنند. این شرکت با کند کردن عمومی پیشرفت خود، سیگنال قوی‌ای به قانون‌گذاران می‌فرستد که قادر به خودنظارتی هستند، پیش از آنکه یک قابلیت خطرناک به دست عموم برسد.[7]

این توقف در لحظه‌ای از بحث‌های شدید در مورد نحوه مدیریت قابلیت‌های تهاجمی هوش مصنوعی رخ می‌دهد. تنها چند روز پس از اعلامیه آسترا، اوپن‌ای‌آی برنامه «دی‌بریک» (Daybreak) خود را گسترش داد و یک مدل تخصصی به نام GPT-۵.۶-Cyber را برای مدافعان سازمانی مورد تأیید منتشر کرد.[5][6]

آن مدل در آزمایش‌های داخلی ۹۵٪ درخواست‌های پیشرفته امنیت سایبری را تکمیل کرد و به طور مستقل دو آسیب‌پذیری جدید را در موتور V۸ مرورگر گوگل کروم کشف کرد که متعاقباً وصله شدند. به‌روزرسانی دی‌بریک همچنین نشان داد که «کدکس سکیوریتی» (Codex Security) بیش از ۳۰ میلیون کامیت (commit) را اسکن کرده است، که مقیاس عظیم کشف خودکار آسیب‌پذیری را برجسته می‌کند.[5][8]

این وضعیت یک واگرایی استراتژیک جذاب در نحوه برخورد صنعت با قدرتمندترین ساخته‌های خود ایجاد می‌کند. از یک سو، سابقه آسترا دکترین مهار سختگیرانه قبل از استقرار برای سیستم‌های خودکار را تثبیت می‌کند. از سوی دیگر، گسترش دی‌بریک نشان‌دهنده تلاشی است برای مسلح کردن سریع مدافعان با همان ابزارهای کشف روز صفر که مهاجمان ناگزیر به دست خواهند آورد.[6][8]

آزمون نهایی توقف آسترا، تأیید صحت آن خواهد بود. اوپن‌ای‌آی اعلام کرده است که با آژانس‌های دولتی، از جمله مؤسسات ایمنی هوش مصنوعی، برای آزمایش قابلیت‌های مدل همکاری خواهد کرد. اینکه آیا به این نهادهای خارجی دسترسی کافی برای تأیید مستقل ارزیابی «بحرانی» داده می‌شود یا خیر، تعیین خواهد کرد که آیا این توقف یک نقطه عطف واقعی در حکمرانی هوش مصنوعی است یا صرفاً یک مانور روابط عمومی به موقع.[3][7]