راهنمای مقایسه سی‌پی‌یو، جی‌پی‌یو، تی‌پی‌یو، ان‌پی‌یو و ال‌پی‌یو: مزایا و معایب در آموزش هوش مصنوعی، استنتاج و بهره‌وری انرژی

دوران شتاب‌دهنده‌های همه‌منظوره هوش مصنوعی به سر آمده است. اگر در حال آموزش یک مدل بنیادی عظیم هستید، به توان عملیاتی موازی جی‌پی‌یو یا تی‌پی‌یو نیاز دارید. اگر عوامل مکالمه‌ای بی‌درنگ را مستقر می‌کنید، به تأخیر قطعی و پایین ال‌پی‌یو احتیاج دارید. اگر هوش مصنوعی را روی لپ‌تاپ یا گوشی هوشمند اجرا می‌کنید، بهره‌وری انرژی ان‌پی‌یو ضروری است. و اگر استنتاج با همزمانی پایین را روی سرورهای موجود انجام می‌دهید، سی‌پی‌یو همچنان مقرون‌به‌صرفه‌ترین گزینه شماست. چشم‌انداز سخت‌افزار هوش مصنوعی به طور دائم به اکوسیستم‌های سیلیکونی بسیار تخصصی تقسیم شده است.

فیزیک محاسبات هوش مصنوعی این تقسیم‌بندی سخت‌گیرانه را ایجاب می‌کند. آموزش یک شبکه عصبی عظیم و اجرای همان شبکه در محیط عملیاتی (که به آن استنتاج می‌گویند) اساساً مسائل ریاضی متفاوتی با گلوگاه‌های سخت‌افزاری کاملاً مجزا هستند. آموزش نیازمند پردازش مکرر پتابایت‌ها داده از طریق میلیاردها پارامتر و تنظیم وزن‌ها از طریق پس‌انتشار (Backpropagation) است. این یک مسئله توان عملیاتی است که نیازمند محاسبات موازی عظیم و قابلیت مقیاس‌پذیری در هزاران تراشه متصل به هم است. در مقابل، استنتاج در مورد تولید پاسخ در سریع‌ترین زمان ممکن برای کاربر نهایی است و گلوگاه را از محاسبات خام به پهنای باند حافظه منتقل می‌کند.

از آنجایی که آموزش یک مسئله توان عملیاتی است، نیازمند معماری‌هایی است که بتوانند هزاران عملیات ریاضی را به طور همزمان انجام دهند. به همین دلیل است که شتاب‌دهنده‌های تخصصی بر مراکز داده تسلط دارند. این تراشه‌ها با گنجاندن هزاران واحد محاسباتی ساده‌تر که برای توان عملیاتی موازی طراحی شده‌اند، می‌توانند دسته‌های عظیم داده را به طور کارآمد پردازش کنند. آنها برای تغذیه هسته‌های محاسباتی خود به حافظه با پهنای باند بالا (HBM) و اتصالات پرسرعت متکی هستند. برای ارائه‌دهندگان خدمات ابری در مقیاس بسیار بزرگ و آزمایشگاه‌های تحقیقاتی هوش مصنوعی که مدل‌های بنیادی می‌سازند، این ظرفیت موازی عظیم تنها راه برای آموزش مدل‌ها در عرض چند ماه به جای چند دهه است.[1][3]

با این حال، استنتاج به طور فزاینده‌ای توسط «دیوار حافظه» محدود می‌شود. در طول تولید توکن در یک مدل زبان بزرگ، پردازنده باید وزن‌های کامل مدل را از حافظه خارجی برای هر مرحله پردازش (Forward Pass) به هسته‌های محاسباتی خود بارگذاری کند. یک پردازنده ممکن است قدرت محاسباتی فوق‌العاده‌ای داشته باشد، اما اگر بیشتر چرخه‌های ساعت خود را صرف انتظار برای انتقال داده از ماژول‌های حافظه خارجی کند، این قدرت محاسباتی هدر می‌رود. برای برنامه‌های تعاملی مانند عوامل مکالمه‌ای، این گلوگاه پهنای باند حافظه به صورت تأخیر غیرقابل قبول ظاهر می‌شود و کاربرانی را که انتظار پاسخ‌های بی‌درنگ دارند، ناامید می‌کند.

برای حل این دیوار حافظه، معماری‌های جدیدی ظهور کرده‌اند که جداسازی سنتی حافظه و محاسبات را کنار می‌گذارند. این تراشه‌های استنتاجی تخصصی با نگه داشتن کامل وزن‌های مدل روی تراشه و درهم‌آمیختن مستقیم حافظه با واحدهای محاسباتی، نیاز به جابجایی داده‌ها را از بین می‌برند. این تغییر معماری به طور چشمگیری تأخیر را کاهش می‌دهد و تولید توکن فوق‌سریع و قطعی را ممکن می‌سازد. با این حال، این سرعت به قیمت از دست دادن انعطاف‌پذیری تمام می‌شود؛ این تراشه‌ها صرفاً برای مراحل پردازش (Forward Passes) ساخته شده‌اند و فاقد سخت‌افزار لازم برای انجام پس‌انتشار مورد نیاز برای آموزش مدل هستند.[5]

در همین حال، مصرف برق عامل دیگری است که بازار سخت‌افزار را تقسیم می‌کند. تراشه‌های رده بالای مراکز داده به طور معمول صدها وات برق را تحت بار کامل مصرف می‌کنند که نیازمند زیرساخت خنک‌کننده عظیم و تأمین برق تخصصی است. این میزان مصرف برق برای دستگاه‌های موبایل، لپ‌تاپ‌ها و محیط‌های محاسبات لبه کاملاً غیرقابل تحمل است. از آنجایی که مصرف‌کنندگان ویژگی‌های هوش مصنوعی روی دستگاه (مانند تشخیص صدای بی‌درنگ، بهبود تصویر و محو کردن پس‌زمینه) را تقاضا می‌کنند، تولیدکنندگان سخت‌افزار مجبور شده‌اند تراشه‌هایی را توسعه دهند که بتوانند عملکرد هوش مصنوعی را بدون خالی کردن باتری دستگاه در عرض چند دقیقه ارائه دهند.

این محدودیت سخت‌گیرانه برق، منجر به تولد پردازنده‌هایی شد که از مسیرهای عصبی بیولوژیکی تقلید می‌کنند و استنتاج را با مصرف برق تک رقمی (بر حسب وات) انجام می‌دهند. این تراشه‌ها با اولویت دادن به جریان داده و سلسله مراتب حافظه نسبت به سرعت ساعت خام، مدل‌های هوش مصنوعی آموزش‌دیده را با بهره‌وری انرژی فوق‌العاده اجرا می‌کنند. آنها وظایف تکراری هوش مصنوعی را از پردازنده‌های اصلی سیستم برمی‌دارند و عمر باتری را حفظ کرده و از کاهش عملکرد حرارتی در محیط‌های محدود جلوگیری می‌کنند. اگرچه آنها نمی‌توانند از نظر توان عملیاتی خام با تراشه‌های مرکز داده رقابت کنند، اما کارایی آنها برای اکوسیستم رو به رشد برنامه‌های هوش مصنوعی لبه ضروری است.[4]

حتی پردازنده مرکزی سنتی نیز در این چشم‌انداز تخصصی، نقشی دوباره پیدا کرده است. اگرچه سی‌پی‌یوها فاقد توان عملیاتی موازی عظیم مورد نیاز برای آموزش هستند، اما دارای حافظه‌های نهان عمیق و پیش‌بینی انشعاب پیچیده‌ای هستند که در جریان کنترل ترتیبی عالی عمل می‌کنند. از آنجایی که این پردازنده‌ها عملاً در هر سرور و دستگاه لبه‌ای از قبل تعبیه شده‌اند، اجرای استنتاج روی آنها هزینه سخت‌افزاری حاشیه‌ای نزدیک به صفر دارد. برای سازمان‌هایی که مدل‌های کوچک را مستقر می‌کنند یا ترافیک با همزمانی پایین را مدیریت می‌کنند، هزینه تأمین شتاب‌دهنده‌های اختصاصی هوش مصنوعی اغلب غیرقابل توجیه است و این پردازنده پایه همه‌جا حاضر را به منطقی‌ترین انتخاب تبدیل می‌کند.[2]

ماتریس تصمیم‌گیری برای زیرساخت هوش مصنوعی اکنون مستلزم تطبیق سخت‌افزار با مرحله خاص حجم کار، محیط استقرار و کل هزینه مالکیت است. آموزش معمولاً یک سرمایه‌گذاری محاسباتی عظیم و یک‌باره است که معماری‌های موازی مقیاس‌پذیر را طلب می‌کند. از سوی دیگر، استنتاج هزینه‌های عملیاتی مستمری ایجاد می‌کند که در مقیاس بزرگ افزایش می‌یابد. علاوه بر این، محل انجام استنتاج – چه در یک مرکز داده ابری بسیار بزرگ، چه در اتاق سرور داخلی یا یک دستگاه موبایل با باتری – میزان سخت‌گیری محدودیت‌های برق و تأخیر را تعیین می‌کند.

سازمان‌ها باید ارزیابی کنند که آیا اولویت آنها حداکثر توان عملیاتی دسته‌ای، تأخیر پایین قطعی یا بهره‌وری انرژی سخت‌گیرانه است. یک ارائه‌دهنده خدمات ابری که میلیون‌ها درخواست ناهمزمان را ارائه می‌دهد، توان عملیاتی را برای به حداکثر رساندن استفاده از سخت‌افزار در اولویت قرار می‌دهد. توسعه‌دهنده‌ای که یک دستیار کدنویسی بی‌درنگ می‌سازد، تأخیر را برای اطمینان از تجربه کاربری روان در اولویت قرار می‌دهد. یک تولیدکننده گوشی هوشمند، بهره‌وری انرژی را برای ارائه هوش مصنوعی روی دستگاه بدون به خطر انداختن عمر باتری در اولویت قرار می‌دهد. دیگر یک تراشه هوش مصنوعی «بهترین» وجود ندارد؛ بلکه فقط تراشه مناسب برای محدودیت‌های خاص حجم کار وجود دارد.

انتخاب سخت‌افزار اشتباه می‌تواند منجر به هزینه‌های هنگفت، کاهش عملکرد حرارتی در دستگاه‌های لبه یا تأخیر غیرقابل قبول در محیط عملیاتی شود. با ادامه بلوغ اکوسیستم هوش مصنوعی، چشم‌انداز سخت‌افزار احتمالاً حتی بیشتر تقسیم خواهد شد و سیلیکون‌های بسیار تخصصی برای روش‌های خاص مانند تولید ویدئو، ناوبری خودران یا توالی‌یابی ژنومی ظهور خواهند کرد. درک تفاوت‌های معماری اساسی بین این انواع پردازنده‌ها برای هر کسی که در حال ساخت، استقرار یا سرمایه‌گذاری در هوش مصنوعی است، حیاتی است و تضمین می‌کند که انتخاب‌های زیرساختی کاملاً با اهداف تجاری همسو باشند.

تحلیل مقایسه‌ای زیر، پنج معماری اصلی پردازنده—سی‌پی‌یو، جی‌پی‌یو، تی‌پی‌یو، ان‌پی‌یو و ال‌پی‌یو—را تشریح می‌کند، نقاط قوت آنها را کمی‌سازی کرده و مشخص می‌کند که دقیقاً در کجا کاربرد دارند. با بررسی نحوه مدیریت هر معماری در برابر تقاضاهای رقابتی محاسبات، پهنای باند حافظه و مصرف برق، رهبران فنی می‌توانند در بازار پیچیده سخت‌افزار هوش مصنوعی مسیر خود را پیدا کنند. این مقایسه جانبی، اطلاعات عملی مورد نیاز برای ساخت زیرساخت‌های مقیاس‌پذیر و مقرون‌به‌صرفه را فراهم می‌کند که هم عملکرد مورد انتظار کاربران و هم کارایی مورد نیاز کسب‌وکارها را در عصر نوین هوش مصنوعی ارائه دهد.[6]