اوپن‌ای‌آی جی‌پی‌تی-۶ «آسترا» با قابلیت‌های عامل خودکار را برای مشتریان سازمانی منتخب مستقر می‌کند

اوپن‌ای‌آی عرضه جی‌پی‌تی-۶ «آسترا» در سپتامبر ۲۰۲۶ (شهریور ۱۴۰۵) را به عنوان طلوع «عصر AGI» توصیف می‌کند و به توانایی این مدل در اجرای گردش کارهای پیچیده و چند روزه در محیط‌های نرم‌افزاری زنده بدون دخالت انسان اشاره دارد.

با این حال، محققان امنیت سایبری و شکاکان این صنعت، دقیقاً همین قابلیت‌های خودکار را به عنوان استقرار زودهنگام سیستمی می‌بینند که از سد محیط‌های ایزوله سنتی (sandboxing) می‌گریزد. آن‌ها استدلال می‌کنند که سپردن کلیدهای محیط‌های سازمانی زنده به یک شبکه عصبی، اولویت دادن به تسلط بر بازار است تا ایمنی قابل تأیید.[1][3][4][5]

این استقرار که از تاریخ ۳ سپتامبر ۲۰۲۶ (۱۲ شهریور ۱۴۰۵) برای گروه منتخبی از مشتریان «فورچون ۵۰۰» (Fortune 500) آغاز شد، نشان‌دهنده یک تغییر ساختاری در نحوه عملکرد مدل‌های زبان است. برخلاف جی‌پی‌تی-۴ که به عنوان یک پیشگوی مکالمه‌ای عمل می‌کرد و نیاز به یک انسان برای فرمان دادن به هر مرحله داشت، آسترا به عنوان یک عامل خودکار عمل می‌کند.

کاربران یک هدف سطح بالا را تعیین می‌کنند—مانند حسابرسی ۴۰۰ قرارداد فروشنده برای انطباق با قانون جدید هوش مصنوعی اتحادیه اروپا—و مدل به طور مستقل وظیفه را به زیربرنامه‌ها تقسیم می‌کند، در پایگاه‌های داده داخلی پیمایش می‌کند و اقدامات را طی چندین ساعت اجرا می‌کند.[1]

این عرضه به صورت بی‌نقص انجام نشد. در اوایل ۳ سپتامبر، اوپن‌ای‌آی به طور خلاصه مستندات API آسترا را منتشر و سپس پس گرفت، رویدادی که فوربز (Forbes) آن را یک «شروع کاذب کنجکاو» توصیف کرد و به گمانه‌زنی‌ها در مورد موانع فنی لحظه آخری دامن زد. تا بعدازظهر پنجشنبه، اعلامیه رسمی منتشر شد و تأیید کرد که پنجره زمینه (context window) مدل به ۲ میلیون توکن گسترش یافته و معماری استنتاج آن برای پشتیبانی از اجرای پیوسته و ناهمزمان (asynchronous) بازنگری شده است.[1][2]

چارچوب‌بندی شرکت از این عرضه عمداً تحریک‌آمیز بوده است. مواد رسمی راه‌اندازی با استفاده از مخفف هوش عمومی مصنوعی (AGI)—آستانه‌ای که از لحاظ تاریخی به عنوان سیستمی تعریف می‌شود که قادر به تطبیق یا فراتر رفتن از عملکرد انسان در تمام کارهای شناختی با ارزش اقتصادی است—اعلام کردند: «به عصر AGI خوش آمدید.» ونچربیت (VentureBeat) اشاره کرد که اوپن‌ای‌آی به شدت بر این اصطلاحات تکیه کرده است تا آسترا را از به‌روزرسانی‌های تکراری منتشر شده توسط رقبا متمایز کند.[3][5]

در زیرساخت، آسترا به یک معماری جدید متکی است که یادگیری تقویتی را مستقیماً در حلقه استنتاج ادغام می‌کند. هنگامی که مدل با خطایی مواجه می‌شود—مانند یک نقطه پایانی API خراب یا یک فایل گم‌شده—متوقف نمی‌شود و منتظر اصلاح کاربر نمی‌ماند. در عوض، فرضیه‌های جایگزین تولید می‌کند، آن‌ها را در یک کانتینر ایزوله آزمایش می‌کند و رویکرد خود را تنظیم می‌کند. اوپن‌ای‌آی ادعا می‌کند که این مکانیسم خوداصلاحی، نرخ تکمیل وظایف را در مقایسه با خط مبنای نسل قبلی، ۶۸ درصد بهبود می‌بخشد.[1]

دقیقاً همین پایداری است که متخصصان امنیت را نگران می‌کند. کوارتز (Quartz) گزارش داد که عرضه «در میان ترس از ریسک‌های امنیت سایبری» پیش رفت و به خطر ذاتی سیستمی اشاره کرد که برای غلبه مستقل بر موانع دیجیتال طراحی شده است. از آنجا که آسترا می‌تواند کد را به صورت خودکار بنویسد و اجرا کند، یک عامل مخرب می‌تواند به طور نظری به سیستم فرمان دهد تا یک شبکه هدف را نقشه‌برداری کرده و آسیب‌پذیری‌ها را بدون باقی گذاشتن امضای سنتی یک اپراتور انسانی، مورد سوءاستفاده قرار دهد.[4]

اوپن‌ای‌آی یک سیستم مجوزدهی چند لایه را برای کاهش این ریسک‌ها پیاده‌سازی کرده است. مدیران سازمانی باید صراحتاً دسترسی آسترا را به ابزارهای داخلی خاص اعطا کنند و مدل تحت چارچوب «کمترین امتیاز» (least privilege) عمل می‌کند. علاوه بر این، شرکت بیان می‌کند که هر اقدامی که شامل تراکنش‌های مالی، حذف داده‌ها یا ارتباطات خارجی باشد، قبل از اجرا نیاز به تأیید رمزنگاری شده از سوی یک اپراتور انسانی دارد.[1][4]

گروه اولیه آزمایش‌کنندگان سازمانی ۹۰ روز آینده را صرف ارزیابی قابلیت اطمینان آسترا در محیط‌های کنترل‌شده خواهند کرد. اوپن‌ای‌آی جدول زمانی برای عرضه عمومی گسترده‌تر اعلام نکرده است و نیاز به نظارت بر نحوه مدیریت موارد حاشیه‌ای (edge cases) توسط عامل خودکار در مقیاس بزرگ را ذکر کرده است. تیم‌های مهندسی شرکت در حال حاضر نرخ خطای مدل را ردیابی می‌کنند، به ویژه به دنبال مواردی هستند که حلقه‌های خوداصلاحی آسترا منجر به مصرف بی‌نهایت منابع یا تغییرات ناخواسته در سیستم شوند.[1][2]