رفتن به محتوای اصلی
زیرساخت هوش مصنوعیاوپن‌ای‌آی· 7 دقیقه مطالعه· در فناوری

کارخانه پرفورمنس اوپن‌ای‌آی؛ وقتی ایجنت‌های کدکس برای شکار اختلالات چت‌جی‌پی‌تی دست‌به‌کار می‌شوند

اوپن‌ای‌آی از سیستم زیرساختی داخلی جدیدی موسوم به «کارخانه پرفورمنس» رونمایی کرده است که با تکیه بر ایجنت‌های هوش مصنوعی، کندی و افت کارایی چت‌جی‌پی‌تی را ردیابی و اصلاح می‌کند. این سیستم طی بیش از سه ماه، بیش از ۱۷۰۰ تحقیق تشخیصی انجام داده و نقش مهندسان را از نوشتن اسکریپت‌های عیب‌یابی، به بررسی گزارش‌های ماشین تغییر داده است.

به قلم دلناز نورانی

این خبر را به اشتراک بگذارید

گوش‌ دهید

اوپن‌ای‌آی یکی از کسل‌کننده‌ترین و فرساینده‌ترین وظایف مهندسی نرم‌افزار را به هوش مصنوعی خود واگذار کرده است. این شرکت در ۱۹ نوامبر ۲۰۲۶ از ابزار زیرساختی داخلی موسوم به «کارخانه پرفورمنس» (Performance Factory) پرده برداشت؛ سامانه‌ای متکی بر ایجنت‌های قدرت‌گرفته از کدکس که به شکل خودکار گلوگاه‌های تاخیر و کندی در پاسخ‌دهی چت‌جی‌پی‌تی را کشف، ریشه‌یابی و برای رفع آن‌ها اصلاحیه پیشنهاد می‌کند.[1][2]

این پلتفرم نشان‌دهنده یک دگرگونی اساسی از تنظیم دستی عملکرد به بهینه‌سازی پیوسته و ماشین‌محور است. با رشد سریع مقیاس چت‌جی‌پی‌تی در سطح جهان، حتی چند میلی‌ثانیه تاخیر اضافی می‌تواند تجربه تعاملی میلیون‌ها کاربر همزمان را مختل کند. کارخانه پرفورمنس با مسئله سرعت پاسخ‌دهی، همچون چالشی مهندسی از درجه اول برخورد می‌کند که ایجنت‌ها خود به حل آن گماشته شده‌اند.[1][3]

بر اساس گزارش مهندسی منتشرشده توسط اوپن‌ای‌آی، این سیستم در مدت کمی بیش از سه ماه، بیش از ۱۷۰۰ تحقیق تشخیصی خودکار را پردازش کرده است. چنین حجمی معادل اجرای روزانه میانگین ۱۷ تحلیل عمیق کارایی در فضای ابری است؛ بررسی‌هایی پیچیده که در شرایط عادی به روزها بررسی دستی فایل‌های لاگ نیاز داشتند.[1][2]

جریان کاری رگرسیون

زیربنای اصلی این سیستم بر خط‌لوله‌ای موسوم به «جریان کاری رگرسیون» (Regression Workflow) متکی است که بلافاصله پس از اعلام هشدار افت کارایی توسط نرم‌افزارهای پایشگر، وارد عمل می‌شود. سیستم به جای خبر کردن مهندس کشیک، یک تسک ویژه باز می‌کند و ایجنت کدکس را به انجام عملیات جرم‌یابی نرم‌افزاری اختصاص می‌دهد.[1][2]

طی کمی بیش از سه ماه، این سیستم خودکار بیش از ۱۷۰۰ تحقیق و عیب‌یابی پرفورمنس را به سرانجام رساند.

از آنجا که مشکلات تاخیر معمولاً ساعت‌ها پیش از فعال شدن آلارم‌های مانیتورینگ شکل می‌گیرند، ایجنت تعیین‌شده به تلمتری و داده‌های تاریخی رجوع می‌کند تا نقطه دقیق آغاز افت سرعت را پیدا کند. سپس سیستم تغییرات مربوط به استقرار کدها و فلگ‌های ویژگی فعال‌شده در آن بازه زمانی مشخص را تطبیق داده و کد مقصر را تفکیک می‌کند.[1][2]

پس از شناسایی کد مشکوک، ایجنت یافته‌های خود را با بررسی مسیرهای اجرای کد، لاگ‌های رهگیری و الگوهای مصرف منابع اعتبارسنجی می‌کند. این سیستم در بیش از ۶۰۰ مورد از ۱۷۰۰ بررسی انجام‌شده در پنجره سه‌ماهه، ریشه اصلی مشکل را با موفقیت و با دقت ۷۰ درصدی کشف کرده است.[1][2]

از میان ریشه‌های تاییدشده، ایجنت‌ها در حدود ۴۰۰ پیشنهاد اصلاح کد تولید کردند. این پیشنهادها طیفی از ارتقای الگوریتمی و بهبود مدیریت حافظه تا شناسایی محاسبات تکراری و کوئری‌های زاید پایگاه داده را که موجب کندی خط لوله استنتاج می‌شدند، شامل می‌شد.[1][2]

بازبینی تقابلی و نظارت انسانی

برای جلوگیری از اتلاف وقت مهندسان بر اثر تشخیص‌های اشتباه با درجه اطمینان کاذب، اوپن‌ای‌آی یک مرحله بازبینی تقابلی در این کارخانه تعبیه کرده است. پیش از آنکه کد پیشنهادی به دست انسان برسد، یک ایجنت هوش مصنوعی مجزا تلاش می‌کند فرضیه ایجنت اولیه را باطل کرده و راهکار پیشنهادی را به چالش بکشد.[1][2]

این اصطکاک درونی و نقد سیستماتیک کاملاً ضروری است، چرا که تغییرات کدی پیشنهادی ایجنت‌ها گاه بیش از حد پیچیده بوده یا ریسک‌های معماری تازه‌ای خلق می‌کنند. اوپن‌ای‌آی اشاره کرده که برخی بهینه‌سازی‌ها، مانند کش کردن بیش از حد اطلاعات، ممکن است تاخیر را کم کنند اما ریسک نمایش داده‌های قدیمی و نامعتبر را بالا می‌برند؛ تعادلی شکننده که همچنان نیازمند قضاوت انسانی است.[1][2]

مهندسان تصمیم نهایی و حق وتوی مطلق را برای هر کدی که قرار است وارد شاخه اصلی تولید (پروداکشن) شود، حفظ کرده‌اند. آمارها نیز این مرز نظارتی را تایید می‌کنند: از میان ۴۰۰ اصلاحیه پیشنهادی، تنها ۱۵ مورد پول‌ریکوئست مستقیماً از قلم کدکس و دقیقاً به همان شکلی که توسط ماشین نوشته شده بود، مرج شدند.[1][2]

اگرچه صدها اصلاحیه توسط ایجنت‌ها ارائه شد، اما مهندسان انسانی فیلتر شدیدی برای ورود کد به پروداکشن اعمال کردند.

پیشنهادهای ایجنت‌ها علاوه بر این موارد، به شکل جدی بر ۵۰ اصلاحیه دیگر تاثیر گذاشتند و توسعه‌دهندگان انسانی را در مسیر درست هدایت کردند، حتی اگر نیاز به بازنویسی کد بود. پس از استقرار نهایی، یک ایجنت دیگر سنجه‌های محیط زنده را پایش می‌کند تا اطمینان حاصل شود کارایی سیستم به حالت استاندارد بازگشته است.[1][2]

دگرگونی بار کاری مهندسان

کارخانه پرفورمنس بازتاب‌دهنده تغییری بزرگتر در نحوه استقرار مدل‌ها درون خود اوپن‌ای‌آی است. شرکت به جای درخواست از هوش مصنوعی برای تولید تکه‌کدهای تکی، ایجنت‌های متعددی را به شکل زنجیره‌ای در جریان‌های کاری مداوم برای پشتیبانی عملیاتی تکرارشونده پیوند می‌دهد.[1][2]

اوپن‌ای‌آی ادعا می‌کند که ایجنت‌هایش اکنون می‌توانند ۴۶ درصد از وظایف چندساعته تحقیقاتی را به صورت خودمختار انجام دهند که نشان‌دهنده جهشی دوبرابری نسبت به اوایل سال است. با این حال، نرخ موفقیت در نگارش کدهای حساس و پیچیده برای زیرساخت استنتاج کمتر است که این امر حاکی از تفاوت آشکار توانمندی‌های مدل در حوزه‌های مختلف است.[1][2]

این سیستم عملاً نقش مهندس را از تولیدکننده اسکریپت‌های عیب‌یابی به بازبین شواهد جمع‌آوری‌شده توسط ماشین بدل کرده است. با خودکارسازی ساعات اولیه واکاوی لاگ‌ها و همبستگی سنجه‌ها، کارخانه توان فکری مهندسان را صرفاً برای تصمیم‌گیری‌های کلان معماری حفظ می‌کند.[1][2]

حرکت به سوی کشف پیش‌دستانه مشکلات

در حال حاضر، کارخانه پرفورمنس واکنشی عمل می‌کند و برای شروع بررسی منتظر یک هشدار تعریف‌شده در سیستم مانیتورینگ می‌ماند. اما اوپن‌ای‌آی قصد دارد این سیستم را به بهینه‌سازی فعال ارتقا دهد؛ جایی که ایجنت‌ها خود به شکار ناکارآمدی‌هایی بروند که کوچک‌تر از حد آستانه هشدارها هستند.[1][2]

در گام‌های بعدی، وظیفه بررسی پروفایل پردازنده، وضعیت حافظه و مسیر درخواست‌ها در نسخه‌های مختلف نرم‌افزاری به ایجنت‌ها سپرده می‌شود. اگر ایجنت متوجه افزایش اندک مصرف منابع میان دو نسخه شود، پیش از آنکه مشکل تشدید شود، پرونده‌ای در جریان رگرسیون باز می‌کند.[1][2]

جریان کاری رگرسیون با اتصال چند ایجنت هوش مصنوعی، مراحل گوناگون عیب‌یابی را به شکل پیوسته هدایت می‌کند.

این شرکت همچنین در پی طراحی جریان‌های کاری برای تنظیم بهینه مقیاس سرویس‌ها است تا ایجنت‌ها بتوانند پیکربندی‌های نامناسب در مقیاس‌پذیری خودکار را که بیش از حد سرورها را فعال نگه می‌دارند، بیابند. اوپن‌ای‌آی حتی در حال ارزیابی امکانی است که بر اساس آن تغییرات کم‌خطر کد بدون نیاز به تایید انسان مستقیماً اعمال شوند.[1][2]

مقیاس‌بخشی به زیرساخت هوش مصنوعی

نیاز به چنین سیستم خودکاری ناشی از ابعاد بی‌سابقه استقرار چت‌جی‌پی‌تی است. همگام با افزایش پارامترها و پیچیدگی مدل‌های زبانی پایه، بهینه‌سازی دستی کارایی به گلوگاهی تبدیل می‌شود که انتشار ویژگی‌ها را به تاخیر انداخته و کاربران را در اوج بار ترافیکی کلافه می‌کند.[2][3]

با رویکرد نگاه به کاهش تاخیر به عنوان یک وظیفه در خط یکپارچه‌سازی مداوم (CI)، این سامانه انتشار بهبودهای عملکردی را همگام با به‌روزرسانی‌های کارکردی پیش می‌برد. این پلتفرم مستقیماً با خطوط استقرار موجود اوپن‌ای‌آی ادغام شده و اصلاحات تولیدشده توسط ایجنت را پیش از ورود به محیط پروداکشن در محیط‌های ایزوله تست می‌کند.[2][3]

یکی از نمونه‌های مشخص مطرح‌شده توسط تیم پرفورمنس، مسئله سریال‌سازی تکراری داده‌ها بود. یک تغییر در کد ناخواسته باعث شده بود سیستم مکالمه یک کاربر را در حین پردازش یک درخواست منفرد، چندین بار سریال‌سازی کند؛ نقصی که بی‌دلیل منابع پردازشی را تلف کرده و پاسخ نهایی را کند می‌کرد.[1][2]

ایجنت کدکس با آنالیز مسیر اجرا، این دوباره‌کاری را کشف کرد. سپس اصلاحیه‌ای دقیق پیشنهاد داد تا مکالمه تنها یک بار سریال‌سازی و داده برای استفاده بعدی کش شود؛ حرکتی که بدون تغییر در تجربه کاربری، میلی‌ثانیه‌های از دست رفته را فوراً احیا کرد.[1][2]

طرح گرافیکی: مهندسان حق تصمیم‌گیری نهایی روی تمامی تغییرات کد را حفظ کرده‌اند و نقش آن‌ها از تولید اسکریپت به تحلیل گزارش‌های ماشین معطوف شده است.

پالایش قضاوت فنی ماشین

اوپن‌ای‌آی برای ارتقای توانایی‌های این سیستم، یک حلقه ارزیابی مداوم ساخته است که پیوسته کدهای پیشنهادی ایجنت‌ها را با نسخه تایید و مرج‌شده نهایی توسط مهندسان مقایسه می‌کند. این مکانیزم بازخورد به مدل زیربنایی کدکس اجازه می‌دهد در طول زمان از خطاهای معماری خود بیاموزد.[1][2]

توسعه آزمون‌های عملکردی مصنوعی بخش دیگری از این پروژه است تا ایجنت‌ها بتوانند اثر واقعی کدهای پیشنهادی‌شان را در یک محیط آزمایشی (سندباکس) بسنجند. این ویژگی به هوش مصنوعی امکان می‌دهد کارایی عملکرد خود را پیش از تقاضای بازبینی انسانی، به شکلی کمی بسنجد.[1][2]

در حال حاضر، کارخانه پرفورمنس کاملاً یک ابزار درون‌سازمانی باقی مانده و برنامه‌ای برای تجاری‌سازی بیرونی آن اعلام نشده است. این پلتفرم در اصل آزمونی زنده برای کدکس محسوب می‌شود که ثابت می‌کند هوش مصنوعی قادر به نگهداری از همان زیرساختی است که برای سرویس‌دهی خودش به عموم به کار می‌رود.[1][2]

در نهایت، کارخانه پرفورمنس نشان می‌دهد فوری‌ترین کاربرد تجاری مدل‌های پیشرفته شاید به جای نوشتن نرم‌افزار از صفر، حفظ و مراقبت از سلامت آن باشد. هر چه مدل‌ها قدرتمندتر می‌شوند، کار کسالت‌بار سریع نگه داشتن آن‌ها نیز بیش از پیش به خودشان واگذار می‌شود.[1][4]

نکات کلیدی

  1. اوپن‌ای‌آی از سیستم داخلی «کارخانه پرفورمنس» رونمایی کرده که از ایجنت‌های کدکس برای تحقیق و رفع خودکار تاخیر چت‌جی‌پی‌تی بهره می‌برد.
  2. این سیستم در مدت سه ماه، بیش از ۱۷۰۰ بررسی انجام داده و ریشه اصلی مشکلات را با دقت ۷۰ درصدی کشف کرده است.
  3. یک لایه ارزیابی تقابلی با هوش مصنوعی مجزا، اصلاحیه‌های پیشنهادی را پیش از رسیدن به مهندسان به چالش می‌کشد.
  4. در نسخه‌های آتی، ایجنت‌ها به جای انتظار برای اعلام هشدار، به شکلی فعالانه و پیش‌دستانه در پی کشف ناکارآمدی‌ها خواهند بود.

آنچه نمی‌دانیم

  • آیا اوپن‌ای‌آی برنامه‌ای برای عرضه تجاری کارخانه پرفورمنس به عنوان ابزاری مستقل به سازمان‌ها دارد یا خیر.
  • چه مقدار توان پردازشی و محاسباتی برای اجرای ممتد بررسی‌های تقابلی و عیب‌یابی‌های خودکار این ابزار مصرف می‌شود.
  • پوشش رسانه‌های مستقل روی این سیستم بسیار محدود است و اکثر اطلاعات فنی مستقیماً از گزارش‌های مهندسی خود شرکت اوپن‌ای‌آی تامین شده است.
مهندسان زیرساخت هوش مصنوعی 60%حامیان کیفیت و پایداری نرم‌افزار 40%
مهندسان زیرساخت هوش مصنوعی
حامیان خودکارسازی بهینه‌سازی کارایی برای انطباق با سرعت استقرار نرم‌افزار.
حامیان کیفیت و پایداری نرم‌افزار
تاکیدکنندگان بر لزوم بازبینی‌های تقابلی و نظارت پیوسته انسان بر کدها.

دیدگاه‌هایی که این گزارش پوشش نداده

  • رقبای مستقل حوزه زیرساخت ابری
  • توسعه‌دهندگان نرم‌افزارهای متن‌باز

منابع

پوشش منابع

4 منبع

2 دیدگاه شناسایی‌شده

مهندسان زیرساخت هوش مصنوعی 60%حامیان کیفیت و پایداری نرم‌افزار 40%
  1. [1]OpenAIمهندسان زیرساخت هوش مصنوعی

    How OpenAI's Performance Factory keeps ChatGPT fast

    مطالعه در OpenAI →
  2. [2]VentureBeatمهندسان زیرساخت هوش مصنوعی

    Exclusive: OpenAI reveals Performance Factory, a Codex-powered software optimization system that keeps ChatGPT fast

    مطالعه در VentureBeat →
  3. [3]MOOGHحامیان کیفیت و پایداری نرم‌افزار

    What is OpenAI's Performance Factory?

    مطالعه در MOOGH →
  4. [4]تیم سردبیری کوهستان

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.