رونمایی انویدیا از پلتفرم Minerva برای نظارت جامع بر کارخانه‌های هوش مصنوعی

رویکرد سنتی در نظارت بر فناوری اطلاعات ادعا می‌کند که اگر تیم شبکه، مهندسان پردازش و توسعه‌دهندگان نرم‌افزار هر کدام داشبوردهای مستقل خود را زیر نظر داشته باشند، سلامت یک دیتاسنتر به طور کامل تضمین می‌شود. انویدیا با رونمایی از پلتفرم جدید خود این فرض را رد می‌کند؛ شواهد نشان می‌دهد که در کارخانه‌های عظیم هوش مصنوعی، یک پردازنده گرافیکی که کمی گرم‌تر از بقیه کار می‌کند، می‌تواند کل فرآیند آموزش مدل را مختل کند، بدون اینکه در هیچ‌یک از داشبوردهای جزیره‌ای هشدار قرمزی ایجاد شود.[1][2]

در تاریخ ۲۲ اکتبر ۲۰۲۶، شرکت انویدیا به طور رسمی از پلتفرم مینروا (Minerva) رونمایی کرد؛ یک سیستم عملیات هوش مصنوعی (AIOps) که برای ارائه نظارت جامع بر زیرساخت‌های عظیم پردازشی طراحی شده است. این سیستم داده‌های تله‌متری را از پردازنده‌های گرافیکی، تجهیزات شبکه، درایوهای ذخیره‌سازی و زمان‌بندهای وظایف جمع‌آوری کرده و آن‌ها را در یک گراف دانش پویا و یکپارچه ترکیب می‌کند.[1]

مکانیسم اصلی مینروا بر تحلیل میلیاردها نقطه داده در هر ساعت استوار است که با استفاده از یادگیری ماشین نظارت‌شده و بدون نظارت انجام می‌پذیرد. این پلتفرم الگوهای عملکرد طبیعی را برای یک توپولوژی خاص در دیتاسنتر یاد می‌گیرد و می‌تواند ناهنجاری‌هایی را که پیش از این هرگز با آن‌ها مواجه نشده است، شناسایی و پیش‌بینی کند. این پلتفرم با بررسی مداوم وضعیت سیستم، میلیاردها نقطه داده تله‌متری را به هشدارهای باکیفیت و قابل اقدام تبدیل می‌کند.[1][2]

به جای رفتار مستقل با گره‌های پردازشی و تجهیزات شبکه، مینروا این سیگنال‌ها را با هم ادغام می‌کند. زمانی که یک درایو ذخیره‌سازی NVMe تحت بار کاری سنگین دچار افت سرعت می‌شود، این پلتفرم تنگنای سخت‌افزاری را مستقیماً به همان وظیفه آموزش هوش مصنوعی که در حال کند شدن است، مرتبط می‌سازد. این سیستم از طریق یک گراف دانش پویا، ارتباطات فیزیکی و منطقی میان پردازنده‌ها، کارت‌های شبکه هوشمند (SuperNICs)، کابل‌ها و وظایف در حال اجرا را به صورت لحظه‌ای نقشه‌برداری می‌کند.[1][2]

بدون این همبستگی داده‌ها، یک کابل شبکه معیوب می‌تواند طوفانی از هشدارها را در تمام داشبوردهای تاسیسات ایجاد کند و اپراتورها را مجبور سازد تا به جای یافتن علت اصلی، تنها به بررسی علائم ظاهری بپردازند. مینروا این طوفان‌های رویداد را در قالب یک حادثه متمرکز دسته‌بندی کرده و مقصر سخت‌افزاری احتمالی را به وضوح مشخص می‌کند تا از اتلاف وقت تیم‌های پشتیبانی جلوگیری شود.[1][2]

عبور از نظارت جزیره‌ای به یکپارچگی

کارخانه‌های هوش مصنوعی امروزی شامل صدها هزار پردازنده گرافیکی هستند که به صورت همگام برای آموزش مدل‌های زبانی بزرگ کار می‌کنند. در این مقیاس، هزینه زمان بیکاری پردازنده‌ها که به عنوان افت «بازده مفید» (Goodput) شناخته می‌شود، بسیار نجومی است و عیب‌یابی واکنشی سنتی را از نظر مالی غیرقابل توجیه می‌سازد.[1][2]

مشکل اصلی در این خوشه‌های عظیم پردازشی، به ندرت خرابی کامل و توقف کار تجهیزات است. یک قطعه با عملکرد افت‌کرده، مانند سوئیچی که تنها کسر کوچکی از بسته‌های داده را از دست می‌دهد، کل فرآیند آموزش همگام را مجبور به انتظار می‌کند و تولید توکن را در سراسر خوشه به شدت کاهش می‌دهد.[2]

برای مدیریت این پیچیدگی، مینروا شامل یک دستیار هوش مصنوعی بومی به نام شرلوک (Sherlock) است که یک رابط زبان طبیعی مبتنی بر داده‌های تله‌متری زنده را در اختیار اپراتورها قرار می‌دهد. مهندسان می‌توانند تنها با پرسیدن سوالات روزمره، وضعیت سلامت خوشه را بررسی کرده و مراحل پیشنهادی برای رفع مشکل را در لحظه دریافت کنند.[1]

اپراتورها می‌توانند انتخاب کنند که این اصلاحات را به صورت دستی اعمال کنند یا مینروا را به رابط‌های برنامه‌نویسی (API) زیرساخت متصل سازند تا ترمیم به صورت خودکار و عامل‌محور انجام شود. این سیستم حلقه بسته با هدف انتقال کامل نگهداری دیتاسنتر از تعمیرات واکنشی به بهینه‌سازی پیشگیرانه طراحی شده است.[2]

معیارهای اصلی که مینروا برای سنجش موفقیت خود استفاده می‌کند، شامل ساعات کارکرد پردازنده گرافیکی، زمان فعالیت خوشه، و نرخ تولید توکن است. با کاهش زمان‌های توقف برنامه‌ریزی‌نشده و جلوگیری از هدررفت منابع پردازشی، این پلتفرم مستقیماً بر بازدهی اقتصادی سرمایه‌گذاری‌های کلان در حوزه زیرساخت تاثیر می‌گذارد.[1][2]

علاوه بر دستیار بومی شرلوک، مینروا از طریق پروتکل زمینه مدل (MCP) امکان یکپارچه‌سازی با عوامل هوش مصنوعی شخص ثالث را نیز فراهم می‌کند. این معماری باز به سازمان‌ها اجازه می‌دهد تا ابزارهای نظارتی سفارشی خود را به جریان داده‌های مینروا متصل کرده و گردش کار عیب‌یابی را با سیستم‌های مدیریت فناوری اطلاعات موجود خود هماهنگ سازند.[1][2]

استقرار در زیرساخت‌های تجاری

این پلتفرم در حال حاضر در محیط‌های تجاری فعال است و شرکت ارائه‌دهنده زیرساخت آیرن (IREN) یکی از نخستین شرکای نام‌برده در این پروژه محسوب می‌شود. دنیس اسکرینیکوف، مدیر ارشد فناوری آیرن، اعلام کرد که مینروا به تیم عملیات آن‌ها یک دیدگاه یکپارچه در سراسر شبکه و پردازنده‌ها می‌دهد و اجازه می‌دهد تا به جای تعقیب خطاهای پراکنده، بر نگهداری پیشگیرانه تمرکز کنند.[1]

علاوه بر آیرن، شرکت‌های بزرگ فناوری از جمله آی‌بی‌ام (IBM)، تسلا، لاندا (Lambda) و بیت‌دیر ای‌آی (Bitdeer AI) برنامه‌های خود را برای استقرار مینروا در کارخانه‌های هوش مصنوعی خود اعلام کرده‌اند. همچنین، تولیدکنندگان سخت‌افزار مانند دل (Dell)، لنوو و سوپرمایکرو این نرم‌افزار را در سبد محصولات عملیاتی خود ادغام خواهند کرد.[1]

این رونمایی نشان‌دهنده گسترش قابل‌توجه مدل کسب‌وکار انویدیا است که از فروش صرف تراشه‌های سیلیکونی فراتر رفته و به ارائه لایه نرم‌افزاری ضروری برای فعال نگه‌داشتن دیتاسنترهای عظیم روی آورده است. این حرکت، شرکت را به عنوان سیستم عصبی مرکزی در زیرساخت‌های جهانی هوش مصنوعی تثبیت می‌کند.

معماری مینروا به طور خاص برای پشتیبانی از فناوری‌های اختصاصی انویدیا مانند سوئیچ‌های ان‌وی‌لینک (NVLink) و شبکه‌های اترنت اسپکتروم-ایکس (Spectrum-X) بهینه‌سازی شده است. این پلتفرم همچنین با زمان‌بندهای محبوبی مانند اسلورم (Slurm) و کتابخانه‌های ارتباطی نظیر ان‌سی‌سی‌ال (NCCL) ارتباط برقرار می‌کند تا تصویر کاملی از نحوه توزیع بار کاری ارائه دهد.[1]

با وجود وعده‌های فناورانه قابل‌توجه، انویدیا هنوز بنچمارک‌های مستقلی که درصد دقیق افزایش زمان فعالیت (Uptime) یا میزان دقت مدل‌های پیش‌بینی خرابی مینروا را تایید کنند، منتشر نکرده است. صنعت در حال حاضر بیشتر بر اساس توصیفات پذیرندگان اولیه قضاوت می‌کند تا داده‌های عملیاتی بررسی‌شده توسط همتایان.

گام بعدی و قابل راستی‌آزمایی در این مسیر، ارزیابی نحوه عملکرد ویژگی‌های ترمیم خودکار در محیط‌های تولیدی است؛ زمانی که دیتاسنترهای شخص ثالث این قابلیت‌ها را به طور کامل فعال کنند. عیار واقعی مینروا زمانی مشخص می‌شود که دستیار هوش مصنوعی آن بتواند تغییرات زیرساختی را بدون نظارت انسانی و با ایمنی کامل در مقیاس وسیع اجرا کند.[2]