رفتن به محتوای اصلی
توضیح کوهستانپردازنده‌های عصبیکالبدشکافی فناوری۱۸ مرداد ۱۴۰۵، ۱۹:۱۱· 4 دقیقه مطالعه· #1 از 5 در فناوری

کالبدشکافی NPU: کامپیوترهای «هوش مصنوعی» واقعاً چگونه کار می‌کنند؟

برخلاف ادعای تیم‌های بازاریابی، پردازنده‌های عصبی (NPU) مغزهای متفکر نیستند؛ بلکه ماشین‌حساب‌های بسیار کم‌مصرفی برای ضرب ماتریس‌ها هستند که عمر باتری لپ‌تاپ‌ها را نجات می‌دهند.

به قلم نیما موسوی

مهندسان سخت‌افزار 40%تیم‌های بازاریابی فناوری 30%توسعه‌دهندگان نرم‌افزار 30%
مهندسان سخت‌افزار
تمرکز بر بهره‌وری انرژی و معماری تراشه به عنوان راهکاری برای عبور از محدودیت‌های فیزیکی.
تیم‌های بازاریابی فناوری
استفاده از NPU به عنوان محرک اصلی فروش لپ‌تاپ‌های جدید تحت عنوان «کامپیوتر هوش مصنوعی».
توسعه‌دهندگان نرم‌افزار
نگاهی محتاطانه به محدودیت‌های فعلی اکوسیستم نرم‌افزاری در استفاده از ظرفیت کامل NPU.

روند رویداد

  1. ۲۰۱۶

    گوگل اولین نسل از واحدهای پردازش تنسور (TPU) خود را برای استفاده در دیتاسنترها معرفی کرد.

  2. ۲۰۱۷

    اپل تراشه A11 Bionic را با اولین نسل از «موتور عصبی» (Neural Engine) برای گوشی‌های هوشمند عرضه کرد.

  3. ۲۰۲۴

    مایکروسافت استاندارد Copilot+ PC را معرفی کرد که داشتن یک NPU با حداقل قدرت ۴۰ TOPS را برای لپ‌تاپ‌های ویندوزی الزامی می‌کند.

چرا مهم است

درک نحوه کارکرد NPU به شما کمک می‌کند تا در زمان خرید لپ‌تاپ‌های جدید، فریب اصطلاحات بازاریابی مانند «کامپیوتر هوش مصنوعی» را نخورید و بدانید دقیقاً برای چه سخت‌افزاری پول پرداخت می‌کنید.

بزرگترین سوءتفاهم درباره موج جدید لپ‌تاپ‌های موسوم به «کامپیوتر هوش مصنوعی» (AI PC) این است که تصور می‌شود یک «مغز دیجیتال» کوچک درون آن‌ها تعبیه شده است. تیم‌های بازاریابی شرکت‌هایی مانند اینتل، ای‌ام‌دی و کوالکام، برچسب NPU (واحد پردازش عصبی) را روی هر محصول جدیدی می‌چسبانند و وعده یک انقلاب هوشمند را می‌دهند. اما واقعیت بسیار ساده‌تر و در عین حال از نظر مهندسی جذاب‌تر است. یک NPU اصلاً فکر نمی‌کند؛ بلکه یک ماشین‌حساب بسیار تخصصی و تا حدودی «خنگ» است که تنها یک کار را با سرعتی سرسام‌آور انجام می‌دهد: ضرب شبکه‌های عظیمی از اعداد در یکدیگر.[1]

برای درک اینکه چرا به این قطعه جدید نیاز داریم، باید به محدودیت‌های پردازنده‌های سنتی نگاه کنیم. پردازنده مرکزی (CPU) مانند یک استاد دانشگاه نابغه است؛ می‌تواند پیچیده‌ترین مسائل منطقی را حل کند، اما در هر لحظه فقط روی چند کار محدود تمرکز می‌کند. پردازنده گرافیکی (GPU) مانند ارتشی از هزاران کارگر است که همزمان پیکسل‌های یک تصویر را رنگ می‌کنند. اما اجرای مدل‌های هوش مصنوعی نیازمند میلیاردها عملیات ساده ریاضی در ثانیه است که به آن «ضرب و انباشت» (MAC) می‌گویند.[3]

اگر این بار پردازشی عظیم را روی CPU قرار دهیم، کل سیستم به شدت کند می‌شود. اگر آن را به GPU بسپاریم، کار با سرعت انجام می‌شود اما مصرف انرژی به قدری بالا می‌رود (حدود ۳۰ تا ۴۰ وات) که باتری لپ‌تاپ شما در کمتر از یک ساعت تخلیه خواهد شد. اینجاست که NPU وارد میدان می‌شود. این تراشه دقیقاً همان عملیات ریاضی هوش مصنوعی را انجام می‌دهد، اما تنها با مصرف ۲ تا ۵ وات انرژی. بنابراین، دستاورد واقعی NPU هوشمندی بیشتر نیست، بلکه بهره‌وری انرژی است.[4]

راز این کارایی خارق‌العاده در معماری خاصی به نام «آرایه سیستولیک» (Systolic Array) نهفته است. در پردازنده‌های معمولی، برای هر محاسبه باید داده‌ها از حافظه خوانده شوند که فرآیندی زمان‌بر و پرمصرف است. اما در یک آرایه سیستولیک، داده‌ها مانند یک خط مونتاژ کارخانه‌ای، به صورت ریتمیک از یک واحد پردازشی به واحد دیگر جریان می‌یابند. هر عدد پیش از آنکه به حافظه بازگردد، بارها و بارها در محاسبات مختلف استفاده می‌شود. این حذف گلوگاه حافظه، کلید سرعت و مصرف پایین NPU است.[2]

راز این کارایی خارق‌العاده در معماری خاصی به نام «آرایه سیستولیک» (Systolic Array) نهفته است.

ترفند دوم NPU، کاهش عمدی دقت ریاضی است. مدل‌های هوش مصنوعی برای تشخیص یک چهره یا تولید متن، نیازی به اعداد اعشاری با دقت بی‌نهایت ندارند. در حالی که یک CPU محاسبات را با دقت ۳۲ بیتی (FP32) انجام می‌دهد، NPUها از اعداد صحیح ۸ بیتی (INT8) استفاده می‌کنند. این کاهش دقت، تأثیر نامحسوسی بر کیفیت خروجی هوش مصنوعی دارد، اما سرعت محاسبات را چهار برابر کرده و مصرف انرژی را به شدت کاهش می‌دهد.

با این حال، باید بین آنچه واقعاً عرضه شده و آنچه بازاریابی می‌شود تفاوت قائل شد. شرکت‌ها مدام از معیار TOPS (تریلیون عملیات در ثانیه) صحبت می‌کنند؛ مثلاً مایکروسافت برای لپ‌تاپ‌های Copilot+ حداقل ۴۰ TOPS را الزامی کرده است. اما TOPS صرفاً یک ظرفیت تئوری است، مانند سرعت‌سنج یک خودرو که تا ۳۰۰ کیلومتر بر ساعت عدد دارد. در حال حاضر، نرم‌افزارهای بسیار کمی وجود دارند که بتوانند از تمام این ظرفیت سخت‌افزاری استفاده کنند.[4]

در واقعیتِ امروز، NPU لپ‌تاپ شما بیشتر برای کارهای پیش‌پاافتاده‌ای مانند تار کردن پس‌زمینه در تماس‌های ویدیویی، حذف نویز میکروفون و شاید تولید متن‌های کوتاه به صورت محلی استفاده می‌شود. وعده‌های بزرگ مبنی بر حضور یک دستیار هوش مصنوعی که تمام کارهای کامپیوتر شما را مدیریت کند، هنوز عمدتاً به پردازش‌های ابری (Cloud) وابسته‌اند و به طور کامل روی خود دستگاه اجرا نمی‌شوند.[1]

با این وجود، معماری NPU یک تغییر مسیر بنیادین در دنیای سخت‌افزار است. با انتقال پردازش‌های هوش مصنوعی از سرورهای ابری به داخل دستگاه‌های شخصی، حریم خصوصی کاربران به شکل چشمگیری افزایش می‌یابد، زیرا داده‌های حساس نیازی به ارسال به اینترنت ندارند. NPUها شاید آن مغز جادویی که تبلیغات می‌گویند نباشند، اما قطعه‌ای حیاتی برای آینده‌ای هستند که در آن هوش مصنوعی بدون نابود کردن باتری دستگاه‌ها، به بخشی از زندگی روزمره تبدیل می‌شود.[3]

نکات کلیدی

  • پردازنده‌های عصبی (NPU) مغزهای هوشمند نیستند، بلکه شتاب‌دهنده‌های ریاضی برای ضرب ماتریس‌ها هستند.
  • مزیت اصلی NPU نسبت به CPU و GPU، مصرف انرژی بسیار پایین آن (۲ تا ۵ وات) در پردازش‌های هوش مصنوعی است.
  • معماری «آرایه سیستولیک» به NPU اجازه می‌دهد داده‌ها را بدون نیاز به بازخوانی مداوم از حافظه، پردازش کند.
  • در حال حاضر، کاربرد NPUها در لپ‌تاپ‌ها به کارهای ساده‌ای مانند حذف نویز و تار کردن پس‌زمینه محدود است و با ادعاهای بازاریابی فاصله دارد.

بررسی عمیق دیدگاه‌ها

مهندسان سخت‌افزار

از دیدگاه طراحان تراشه، NPU یک پیروزی در زمینه معماری کامپیوتر است.

مهندسان استدلال می‌کنند که قانون مور در حال کند شدن است و تنها راه برای افزایش عملکرد بدون ذوب کردن دستگاه، ساخت شتاب‌دهنده‌های تخصصی است. برای آن‌ها، آرایه‌های سیستولیک و محاسبات با دقت پایین (INT8) شاهکارهای مهندسی هستند که گلوگاه‌های حافظه را دور می‌زنند و امکان اجرای مدل‌های پیچیده را روی دستگاه‌های قابل حمل فراهم می‌کنند.

تیم‌های بازاریابی فناوری

بخش‌های فروش، NPU را به عنوان بزرگترین انقلاب از زمان اختراع اینترنت معرفی می‌کنند.

تیم‌های بازاریابی بر معیارهایی مانند TOPS تأکید دارند و استدلال می‌کنند که کاربران برای عقب نماندن از موج هوش مصنوعی، باید سخت‌افزارهای قدیمی خود را ارتقا دهند. هدف آن‌ها ایجاد یک چرخه ارتقای جدید در بازار راکد رایانه‌های شخصی است، حتی اگر نرم‌افزارهای فعلی هنوز به طور کامل از این سخت‌افزار پشتیبانی نکنند.

توسعه‌دهندگان نرم‌افزار

برنامه‌نویسان نگاهی واقع‌بینانه‌تر به محدودیت‌های فعلی دارند.

توسعه‌دهندگان اشاره می‌کنند که نوشتن کد برای NPUها هنوز بسیار دشوار است، زیرا استانداردهای واحدی بین تراشه‌های اینتل، ای‌ام‌دی و اپل وجود ندارد. از دید آن‌ها، تا زمانی که سیستم‌عامل‌ها و ابزارهای توسعه نتوانند به راحتی این سخت‌افزارها را یکپارچه کنند، بیشتر قدرت NPUها بلااستفاده باقی می‌ماند و پردازش‌های سنگین همچنان به سرورهای ابری متکی خواهند بود.

اصطلاحات کلیدی

NPU (واحد پردازش عصبی)
یک تراشه تخصصی که منحصراً برای انجام سریع و کم‌مصرف محاسبات ریاضی مرتبط با هوش مصنوعی طراحی شده است.
آرایه سیستولیک (Systolic Array)
نوعی معماری سخت‌افزاری که در آن داده‌ها به صورت شبکه‌ای و پیوسته بین واحدهای پردازشی جریان می‌یابند تا نیاز به خواندن مداوم از حافظه کاهش یابد.
عملیات MAC
مخفف Multiply-Accumulate؛ یک عملیات پایه ریاضی که در آن دو عدد در هم ضرب شده و با یک مقدار قبلی جمع می‌شوند. این عملیات بلوک سازنده شبکه‌های عصبی است.
INT8
فرمت داده‌های ۸ بیتی که دقت کمتری نسبت به اعداد اعشاری دارد، اما به NPU اجازه می‌دهد محاسبات هوش مصنوعی را با سرعت بسیار بالاتر و مصرف انرژی کمتر انجام دهد.

آنچه نمی‌دانیم

  • مشخص نیست چه زمانی نرم‌افزارهای شخص ثالث به طور کامل برای استفاده از ظرفیت NPUها بهینه‌سازی خواهند شد.
  • هنوز معلوم نیست آیا استاندارد واحدی برای برنامه‌نویسی NPU بین شرکت‌های مختلف سخت‌افزاری شکل خواهد گرفت یا خیر.

پرسش‌های متداول

آیا لپ‌تاپ‌های قدیمی بدون NPU نمی‌توانند هوش مصنوعی را اجرا کنند؟

می‌توانند. پردازنده‌های مرکزی (CPU) و گرافیکی (GPU) قادر به اجرای مدل‌های هوش مصنوعی هستند، اما این کار را با سرعت کمتر و مصرف باتری بسیار بیشتری انجام می‌دهند.

واحد اندازه‌گیری TOPS به چه معناست؟

این کلمه مخفف Tera Operations Per Second (تریلیون عملیات در ثانیه) است و حداکثر توان تئوری NPU را در انجام محاسبات ریاضی نشان می‌دهد، هرچند لزوماً به معنای سرعت بالاتر در استفاده روزمره نیست.

آیا NPU جایگزین کارت گرافیک (GPU) می‌شود؟

خیر. کارت‌های گرافیک همچنان برای رندر کردن تصاویر سه‌بعدی و بازی‌های ویدیویی ضروری هستند. NPU تنها برای محاسبات خاص شبکه‌های عصبی طراحی شده است.

منابع

پوشش منابع

4 منبع

3 دیدگاه شناسایی‌شده

مهندسان سخت‌افزار 40%تیم‌های بازاریابی فناوری 30%توسعه‌دهندگان نرم‌افزار 30%
  1. [1]تیم سردبیری کوهستانتوسعه‌دهندگان نرم‌افزار

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان
  2. [2]Intelمهندسان سخت‌افزار

    Intel NPU Acceleration Library Documentation

    مطالعه در Intel
  3. [3]IBM Thinkمهندسان سخت‌افزار

    What is a neural processing unit (NPU)?

    مطالعه در IBM Think
  4. [4]Dell Technologiesتیم‌های بازاریابی فناوری

    AI PCs, Copilot+ PCs and AI Workstations Explained

    مطالعه در Dell Technologies

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت فناوری اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.