رفتن به محتوای اصلی
زیرساخت هوش مصنوعیمتا· 5 دقیقه مطالعه· در فناوری

متا از معماری ابرخوشه پرومتئوس برای یک میلیون پردازنده گرافیکی پرده برداشت

متا از نقشه فنی مرکز داده‌ای در مقیاس گیگاواتی رونمایی کرده که برای استقرار حداکثر یک میلیون پردازنده گرافیکی متصل‌به‌هم طراحی شده است. معماری پرومتئوس برای غلبه بر محدودیت‌های فیزیکی توان مصرفی و چگالی حرارتی، به خنک‌سازی مایع مستقیم روی تراشه و شبکه اترنت ۸۰۰ گیگابیت متکی است.

به قلم دلناز نورانی

این خبر را به اشتراک بگذارید

گوش‌ دهید

محدودیت فیزیکی گسترش هوش مصنوعی دیگر بازدهی تولید تراشه‌های سیلیکونی نیست؛ بلکه لحظه‌ای است که یک شبکه برق منطقه‌ای متعهد می‌شود یک گیگاوات برق پایدار را به یک پوسته بتنی عظیم تحویل دهد. همین قرارداد تامین برق، که سال‌ها پیش از ساخت مذاکره می‌شود، تعیین می‌کند که آیا یک خوشه متشکل از یک میلیون پردازنده گرافیکی در حد یک اسلاید تبلیغاتی باقی می‌ماند یا به یک ابررایانه عملیاتی تبدیل می‌شود.

متا نقشه مهندسی چنین مقیاسی را معرفی کرده است. این شرکت روز دوشنبه از طراحی ابرخوشه «پرومتئوس» رونمایی کرد؛ توپولوژی نوینی برای مراکز داده که به منظور استقرار و هماهنگ‌سازی تا یک میلیون پردازنده گرافیکی متصل‌به‌هم مهندسی شده است.[1]

این سامانه تا حد زیادی بر پایه‌های رک‌های سرور آتی GB200 و GB300 NVL72 انویدیا بنا شده که از طریق یک بستر شبکه اترنت عظیم ۸۰۰ گیگابیت بر ثانیه‌ای به هم متصل می‌شوند. با این حال، اگرچه عدد یک میلیون تراشه تیتر اصلی تبلیغات تجاری شرکت را پر کرده، سخت‌افزار واقعی مستقرشده در حال حاضر بسیار کمتر از این سقف فرضی و روی کاغذ است.[2][4]

متا در حال راه‌اندازی نخستین خوشه از رده پرومتئوس در اوهایو است تا مشخصاً مدل‌های هوش مصنوعی آتی خود با نام Muse را آموزش دهد. این مرکز نمایانگر سرمایه‌گذاری هنگفتی است که مرزهای مطلق زیرساخت کنونی برق صنعتی را به چالش می‌کشد.[6]

مهندسی خوشه گیگاواتی

برای دستیابی به توان مصرفی ۱۰۰۰ مگاواتی، متا ناچار شد چیدمان فیزیکی مراکز داده سنتی را کاملاً دگرگون کند. کف‌های کاذب رایج و سیستم‌های خنک‌کننده مبتنی بر هوای پرفشار سنتی، توان تخلیه گرمای مفرط ناشی از هزاران رک متراکم NVL72 را ندارند.[1][2]

در عوض، معماری پرومتئوس کاملاً به سیستم خنک‌سازی با مایع مستقیم روی تراشه متکی است. چرخه‌های بسته مایع خنک‌کننده مستقیماً از درون شاسی سرور عبور می‌کنند و انرژی حرارتی را پیش از آنکه تجهیزات نوری شبکه اطراف خود را بسوزاند، مستقیماً از پردازنده‌ها می‌گیرند.[1][2]

تصویرسازی: رساندن توان الکتریکی از پست توزیع برق تا تک‌تک تیغه‌های سرور نیازمند معماری کابل‌کشی کاملاً متفاوتی است.

نشریه تخصصی StorageReview در بررسی فنی خود می‌نویسد: «چگالی حرارتی این رک‌های نسل نو بنیادهای طراحی فضاهای فیزیکی قدیمی را ویران می‌کند.» این نشریه تاکید کرده که مدیریت یک گیگاوات برق مستلزم احداث پست‌های برق اختصاصی و عظیم در مقیاس نیروگاهی، صرفاً برای همین ابرخوشه است.[2]

بخش شبکه نیز تنگنای فیزیکی به همان اندازه دشواری ایجاد می‌کند. هماهنگ‌سازی یک میلیون پردازنده گرافیکی به زیرساختی نیاز دارد که بتواند پتابایت‌ها داده آموزشی را بدون اتلاف حتی یک بسته داده یا ایجاد تاخیرهای میکرودقیقه‌ای در سراسر مجتمع منتقل کند.[1][4]

متا بستر ارتباطی اترنت ۸۰۰ گیگابیت را برگزیده و تا جای ممکن از اتصالات اختصاصی انحصاری اجتناب کرده است. گزارش وبگاه Converge Digest حاکی است که این رویکرد مبتنی بر استانداردهای باز به متا امکان می‌دهد فرستنده-گیرنده‌های نوری را از چندین تامین‌کننده رقیب تهیه کند و گلوگاه‌های زنجیره تامین را کاهش دهد.[4]

فراتر رفتن از حد نقشه

علیرغم هیاهوی فراوان پیرامون عدد یک میلیون پردازنده گرافیکی، پرومتئوس در اصل یک چارچوب و معماری است، نه یک ابررایانه یکپارچه و ساخته‌شده. سایت اوهایو فاز اجرایی نخستین این طرح به شمار می‌رود و تنها کسری از آن ظرفیت نظری نهایی را در خود جای داده است.[6]

رسانه تحلیلی Channel Insider اشاره می‌کند که ساخت چنین مرکزی با مقیاس یک گیگاوات چالش‌های لجستیکی فوق‌العاده‌ای را پیش پای شرکای ساختمانی متا می‌گذارد. تملک زمین، حقوق برداشت آب و دریافت انشعابات فشار قوی برق نیازمند سال‌ها چانه‌زنی نفس‌گیر با دولت‌های محلی و شرکت‌های خدماتی توزیع نیرو است.[5]

تیم مهندسی متا در بیانیه رسمی ۱۹ اکتبر خود نوشت: «ما زیرساختی می‌سازیم که از مدل‌هایی با چندین مرتبه بزرگی فراتر از هرچه امروز وجود دارد پشتیبانی کند.» در این گزارش تصریح شد که محدودیت اصلی توسعه مقیاس، نه توان محاسباتی، بلکه شبکه انتقال و تامین انرژی است.[1]

روند رشد توان مصرفی خوشه‌های آموزش هوش مصنوعی از ده‌ها مگاوات تا تاسیسات عظیم در مقیاس گیگاواتی.

یکی از مدیران متا این محدودیت‌ها را برای حاضران پروژه محاسبات آزاد (OCP) تشریح کرد و نحوه هدایت جریان برق از پست فشار قوی تا تک‌تک بردهای سرور را توضیح داد. به گزارش Fierce Network، محور اصلی این سخنرانی محدودیت‌های فیزیکی کابل‌های مسی در این سطح بسیار بالا از چگالی بار الکتریکی بوده است.[7]

بر اساس گزارش Crypto Briefing، تاسیسات اوهایو به طور اختصاصی مدل‌های هوش مصنوعی Muse متا را آموزش خواهد داد. این سیستم‌های چندوجهی برای تحلیل هم‌زمان متن، صوت و ویدیو به محاسبات موازی غول‌آسایی نیاز دارند و همین ضرورت محرک اصلی توسعه معماری پرومتئوس بوده است.[6]

اما جهش از خوشه‌ای با ۱۰۰ هزار پردازنده به سامانه‌ای با یک میلیون تراشه صرفاً یک مسئله نرم‌افزاری ساده و خطی نیست. پلتفرم‌های ارکستراسیون و مدیریت منابع باید طوری برنامه‌ریزی شوند که بتوانند روزانه هزاران مورد خرابی اجتناب‌ناپذیر قطعات سخت‌افزاری را بدون توقف کل فرایند تمرین مدل—که ماه‌ها به طول می‌انجامد—مهار کنند.[1]

معیاری نوین برای مدل‌های مرزی

افشاگری فنی متا معیار عمومی تازه‌ای را پیش روی پیشگامان هوش مصنوعی گذاشته است. رقبایی همچون مایکروسافت و گوگل نیز مشغول احداث چنین مراکز داده گیگاواتی هستند، گرچه کمتر شرکتی جزئیات توپولوژی شبکه خود را تا این حد شفاف به اشتراک گذاشته است.[3]

نشریه Unite.AI خاطرنشان می‌کند که تصمیم متا برای انتشار مشخصات پرومتئوس با استراتژی کلی این شرکت در ترویج زیرساخت‌های متن‌باز همخوانی دارد. متا با اشتراک‌گذاری این نقشه فیزیکی، سازندگان سخت‌افزار را تشویق می‌کند قطعات استاندارد سازگار بسازند که در نهایت هزینه تمام‌شده را کاهش می‌دهد.[3]

از سوی دیگر، وابستگی سنگین به معماری GB300 انویدیا نشان می‌دهد که بازار سخت‌افزار هوش مصنوعی همچنان در انحصار یک تامین‌کننده عمده باقی مانده است. حتی با استفاده از شبکه اترنت استاندارد، موتورهای محاسباتی اصلی که پرومتئوس را به پیش می‌رانند کاملاً در انحصار انویدیا هستند.[2]

تصویرسازی: گرفتن مجوز اتصال به شبکه انتقال نیرو برای مجموعه‌های گیگاواتی مستلزم سال‌ها مذاکره فشرده با شرکت‌های خدماتی برق است.

هدف‌گذاری یک میلیون پردازنده گرافیکی نوعی قدرت‌نمایی مالی و مهندسی است. این پیام روشن می‌کند که هزینه‌های سرمایه‌ای لازم برای آموزش نسل بعدی مدل‌های لبه فناوری از محدوده چند میلیارد دلار به قلمرو ده‌ها میلیارد دلار نقل مکان کرده است.[1][5]

اینکه آیا پرومتئوس روزی بتواند ظرفیت یک میلیون تراشه‌ای خود را زیر سقف یک ساختمان واحد عملیاتی کند، تماماً به شبکه برق منطقه بستگی دارد. تا زمانی که شرکت‌های توزیع برق نتوانند یک گیگاوات توان پیوسته را بدون خاموشی دادن به شهرها و بخش‌های مجاور تامین کنند، این ابرخوشه چیزی فراتر از یک نقشه مهندسی فوق‌العاده پرجزئیات روی کاغذ نخواهد بود.[5]

نکات کلیدی

  • طرح معماری پرومتئوس متا به گونه‌ای طراحی شده که بتواند تا یک میلیون پردازنده گرافیکی متصل‌به‌هم را در یک مجموعه مجزا جای دهد.
  • این سامانه نیازمند یک گیگاوات برق پایدار است؛ شرایطی که گذر اجباری به فناوری خنک‌سازی با مایع مستقیم روی تراشه را ایجاب کرده است.
  • متا به منظور همگام‌سازی سخت‌افزارها از بستر شبکه اترنت ۸۰۰ گیگابیت استفاده کرده و از استانداردهای ارتباطی انحصاری فاصله گرفته است.
  • نخستین خوشه از کلاس پرومتئوس در حال حاضر در اوهایو در دست بهره‌برداری است تا مدل‌های هوش مصنوعی Muse متا را آموزش دهد.

آنچه نمی‌دانیم

  • چه تعداد پردازنده گرافیکی در فاز راه‌اندازی اولیه در اوهایو نسبت به سقف اسمی یک میلیونی واقعاً فعال و زیر بار هستند.
  • نرخ دقیق مصرف آب برای خنک‌سازی تاسیساتی در مقیاس گیگاواتی با استفاده از چرخه‌های مداربسته مایع روی تراشه چقدر است.
  • نرم‌افزارهای ارکستراسیون و مدیریت متا چگونه با خرابی‌های روزانه و متوالی سخت‌افزار در میان یک میلیون تراشه دست‌وپنجه نرم خواهند کرد.
توسعه‌دهندگان ابَرمقیاس 45%شرکای زیرساختی و اجرایی 40%حامیان سخت‌افزار متن‌باز 15%
توسعه‌دهندگان ابَرمقیاس
زیرساخت‌های در مقیاس گیگاوات را پیش‌نیازی اجتناب‌ناپذیر برای آموزش نسل بعدی مدل‌های چندوجهی لبه فناوری می‌دانند.
شرکای زیرساختی و اجرایی
بر چالش‌های طاقت‌فرسای فیزیکی، حرارتی و لجستیکی در فرآیند احداث و برق‌رسانی واقعی به چنین تاسیساتی متمرکز هستند.
حامیان سخت‌افزار متن‌باز
از انتشار نقشه‌های مهندسی باز برای عمومی‌سازی قطعات شبکه و کاهش وابستگی به رابط‌های انحصاری شرکت‌ها استقبال می‌کنند.

دیدگاه‌هایی که این گزارش پوشش نداده

  • تامین‌کنندگان محلی برق و شبکه توزیع نیرو
  • گروه‌های نظارتی زیست‌محیطی پایش‌کننده مصرف منابع آب

منابع

پوشش منابع

7 منبع

3 دیدگاه شناسایی‌شده

توسعه‌دهندگان ابَرمقیاس 45%شرکای زیرساختی و اجرایی 40%حامیان سخت‌افزار متن‌باز 15%
  1. [1]Engineering at Metaتوسعه‌دهندگان ابَرمقیاس

    Inside Prometheus: Meta's Journey to a Gigawatt-Scale Supercluster

    مطالعه در Engineering at Meta →
  2. [2]StorageReviewشرکای زیرساختی و اجرایی

    Meta Prometheus: Inside the Gigawatt Supercluster Scaling to 1 Million GPUs on GB200 and GB300 NVL72

    مطالعه در StorageReview →
  3. [3]Unite.AIحامیان سخت‌افزار متن‌باز

    Meta Details Prometheus Supercluster Scaling Toward 1 Million GPUs

    مطالعه در Unite.AI →
  4. [4]Converge Digestحامیان سخت‌افزار متن‌باز

    Meta Details Prometheus Architecture Aims for 1 Million GPUs

    مطالعه در Converge Digest →
  5. [5]Channel Insiderشرکای زیرساختی و اجرایی

    Meta's 1-Gigawatt AI Supercluster Reveals New Challenges for Data Center Partners

    مطالعه در Channel Insider →
  6. [6]Crypto Briefingتوسعه‌دهندگان ابَرمقیاس

    Meta brings Prometheus supercluster online in Ohio to train its Muse AI models

    مطالعه در Crypto Briefing →
  7. [7]Fierce Networkشرکای زیرساختی و اجرایی

    Meta exec blows the OCP audiences' mind with its data center innovations

    مطالعه در Fierce Network →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.