تی‌پی‌یو در برابر جی‌پی‌یو: سخت‌افزار محرک رونق هوش مصنوعی، تشریح می‌شود

اجازه دهید با نسخه کوتاه شروع کنیم: جی‌پی‌یوها پردازنده‌های موازی همه‌کاره‌ای هستند که با خواندن و نوشتن مداوم در حافظه، هزاران کار را مدیریت می‌کنند؛ در حالی که تی‌پی‌یوها ماشین‌حساب‌های ماتریسی بسیار تخصصی هستند که داده‌ها را از طریق یک شبکه فیزیکی جریان می‌دهند تا در مصرف برق صرفه‌جویی کنند. این تفاوت معماری بنیادی دلیلی است که صنعت فناوری در حال حاضر میلیاردها دلار برای طراحی مجدد سیلیکون درون همه چیز، از مراکز داده ابری گرفته تا گوشی هوشمند جیب شما، هزینه می‌کند.[1][2]

برای سال‌ها، واحد پردازش گرافیکی (GPU) پادشاه بلامنازع رونق هوش مصنوعی بود. جی‌پی‌یوها که در اصل برای رندر کردن بازی‌های ویدیویی سه‌بعدی با محاسبه همزمان هزاران چندضلعی مهندسی شده بودند، به طور تصادفی برای محاسبات موازی عظیمی که برای آموزش شبکه‌های عصبی اولیه لازم بود، عالی عمل کردند.[4]

اما با گسترش مدل‌های هوش مصنوعی از تحقیقات آزمایشی به محصولات مصرفی روزمره، همه‌کاره بودن جی‌پی‌یو به یک نقطه ضعف تبدیل شد. از آنجایی که جی‌پی‌یو یک پردازنده با کاربرد عمومی است، به معماری حافظه سنتی متکی است. برای هر محاسبه‌ای که هزاران هسته آن انجام می‌دهند، تراشه باید داده‌ها را از حافظه واکشی کند، نتیجه را محاسبه کند و دوباره آن را بنویسد.[1][4]

این جابجایی مداوم داده‌ها یک گلوگاه جدی ایجاد می‌کند. در حجم کاری عظیم هوش مصنوعی، خواندن و نوشتن در حافظه به طور قابل توجهی زمان و انرژی الکتریکی بیشتری نسبت به خود محاسبات ریاضی مصرف می‌کند. هنگامی که غول‌های فناوری شروع به ارائه روزانه میلیاردها درخواست هوش مصنوعی کردند، هزینه‌های انرژی استنتاج مبتنی بر جی‌پی‌یو غیرقابل تحمل شد.[2][6]

اینجا واحد پردازش تنسور (TPU) وارد می‌شود. تی‌پی‌یو که توسط گوگل به صورت داخلی توسعه یافت و اولین بار در سال ۲۰۱۵ به کار گرفته شد، یک مدار مجتمع با کاربرد خاص (ASIC) است—تراشه‌ای که طراحی شده تا دقیقاً یک کار را انجام دهد، به قیمت نادیده گرفتن هر چیز دیگری. یک تی‌پی‌یو نمی‌تواند بازی ویدیویی رندر کند، مرورگر وب اجرا کند یا سیستم‌عامل را مدیریت کند. این تراشه منحصراً ضرب ماتریسی مورد نیاز شبکه‌های عصبی را انجام می‌دهد.[3][6]

راز کارایی تی‌پی‌یو، یک طرح‌بندی سخت‌افزاری است که به عنوان «آرایه سیستولیک» شناخته می‌شود. این نام از کلمه یونانی به معنای ضربان قلب گرفته شده است و نحوه تپش ریتمیک داده‌ها در سراسر تراشه را توصیف می‌کند.[5]

آرایه سیستولیک به جای واکشی و ذخیره مداوم داده‌ها در حافظه، مقادیر را از طریق یک شبکه دوبعدی از ضرب‌کننده‌ها عبور می‌دهد. خروجی یک محاسبه مستقیماً به واحد مجاور به عنوان ورودی برای مرحله بعدی جریان می‌یابد. با استفاده مجدد از همان داده‌ها چندین بار در حین حرکت در سیلیکون، تی‌پی‌یو به شدت خواندن‌های پرهزینه حافظه را کاهش داده و مصرف برق را پایین می‌آورد.[1][5][6]

این واگرایی معماری دیگر محدود به مزارع سرور عظیم نیست. همان محدودیت‌های فیزیکی که ارائه‌دهندگان خدمات ابری را مجبور به ساخت سیلیکون سفارشی کرد، اکنون در حال تغییر شکل دستگاه‌های تلفن همراه است. برای اجرای مدل‌های زبان کوچک (SLMs) به صورت محلی روی تلفن بدون خالی کردن باتری در عرض یک ساعت، تولیدکنندگان شتاب‌دهنده‌های هوش مصنوعی کوچک‌شده را مستقیماً در پردازنده‌های موبایل تعبیه می‌کنند.[1]

اینجاست که زبان بازاریابی اغلب سخت‌افزار واقعی را پنهان می‌کند. اپل، کوالکام و اینتل عموماً تراشه‌های هوش مصنوعی محلی خود را با نام واحدهای پردازش عصبی (NPUs) معرفی می‌کنند. با این حال، گوگل شتاب‌دهنده هوش مصنوعی در گوشی هوشمند جدید پیکسل ۱۱ خود را به شدت به عنوان یک «تی‌پی‌یو» تبلیغ می‌کند و ادعای افزایش عظیم قدرت محاسباتی را دارد.[1]

در واقعیت، تی‌پی‌یوِ گوشی هوشمند از نظر عملکردی یک ان‌پی‌یو است. این یک ماشین‌حساب ماتریسی کوچک‌شده و کم‌مصرف است که برای وظایف استنتاج محلی مانند ترجمه بی‌درنگ، عکاسی محاسباتی و تولید متن پایه طراحی شده است. اگرچه از نظر فلسفی با همتای خود در مرکز داده هم‌ریشه است، اما قطعه سیلیکونی کاملاً متفاوتی نسبت به تی‌پی‌یوهای عظیم و خنک‌شده با مایع است که زیرساخت ابری را تغذیه می‌کنند.[1][3]

تمایز بین آنچه واقعاً عرضه می‌شود و آنچه صرفاً اعلام می‌شود، حیاتی است. در حالی که شرکت‌ها وعده هوش مصنوعی روی دستگاهی را می‌دهند که با مدل‌های ابری رقابت می‌کند، ان‌پی‌یوها و تی‌پی‌یوهای موبایل فعلی به شدت به بخش کم‌عمق استخر یادگیری ماشین محدود شده‌اند. آن‌ها در کارهای کم‌مصرف و با تعریف مشخص عالی هستند، اما فاقد پهنای باند حافظه لازم برای اجرای مدل‌های پیشرو در سطح محلی هستند.[1][8]

در همین حال، صنعت گسترده‌تر هوش مصنوعی همچنان درگیر یک مسابقه تسلیحاتی سخت‌افزاری است. در حالی که دعاوی حق نسخه‌برداری و نظارت‌های نظارتی بر نحوه آموزش و کنترل مدل‌های هوش مصنوعی افزایش می‌یابد، سیلیکون زیربنایی، اقتصاد کل اکوسیستم را دیکته می‌کند.[7][8]

جی‌پی‌یوها استاندارد بلامنازع برای آموزش مدل‌های جدید باقی مانده‌اند، زیرا انعطاف‌پذیری عمومی آن‌ها به محققان اجازه می‌دهد تا معماری‌های جدید را آزمایش کنند. اما برای استنتاج (Inference) – یعنی اجرای یک مدل تکمیل‌شده برای میلیاردها مصرف‌کننده – محاسبات بی‌رحمانه مصرف برق به شدت به نفع آرایه سیستولیک است.[2][6]

در نهایت، این مجموعه درهم‌وبرهم از پردازنده‌ها در دستگاه‌های مدرن نشان‌دهنده یک تغییر اساسی در محاسبات است. ما در حال دور شدن از تراشه‌های همه‌کاره‌ای هستیم که می‌توانند همه کارها را به اندازه کافی انجام دهند، و به سمت سیلیکون‌های بسیار تخصصی می‌رویم که یک کار را به طرز استثنایی خوب انجام می‌دهند. چه با نام جی‌پی‌یو، تی‌پی‌یو یا ان‌پی‌یو برچسب‌گذاری شود، هدف یکی است: اجرای محاسبات ریاضی هوش مصنوعی به ارزان‌ترین و سریع‌ترین شکلی که قوانین فیزیک اجازه می‌دهد.[1][2]