رفتن به محتوای اصلی
توضیح کوهستانAI HardwareExplainer۹ شهریور ۱۴۰۵، ۱۹:۱۶· 4 دقیقه مطالعه· در فناوری

کالبدشکافی واحدهای پردازش عصبی (NPU): چرا کامپیوتر «هوش مصنوعی» شما واقعاً به آن نیاز دارد؟

برچسب «کامپیوتر هوش مصنوعی» این روزها روی هر لپ‌تاپ جدیدی دیده می‌شود، اما واحد پردازش عصبی (NPU) دستگاه شما را «باهوش‌تر» نمی‌کند. این تراشه در واقع یک ماشین‌حساب تخصصی است که با مصرف انرژی بسیار کم، ریاضیات پیچیده مدل‌های محلی را حل می‌کند تا باتری شما تمام نشود.

به قلم ایمان شریعتی

تولیدکنندگان سخت‌افزار 35%توسعه‌دهندگان نرم‌افزار 35%تحلیلگران مستقل 30%
تولیدکنندگان سخت‌افزار
معیار TOPS را به عنوان استاندارد جدید سرعت معرفی می‌کنند تا کاربران را به ارتقای لپ‌تاپ‌های خود ترغیب کنند.
توسعه‌دهندگان نرم‌افزار
NPU را راهی برای اجرای محلی مدل‌ها می‌دانند تا هزینه‌های سنگین سرورهای ابری کاهش یابد و حریم خصوصی حفظ شود.
تحلیلگران مستقل
معتقدند که تمرکز صرف روی TOPS گمراه‌کننده است و پهنای باند حافظه نقش مهم‌تری در اجرای هوش مصنوعی دارد.

نکات کلیدی

  1. واحد پردازش عصبی (NPU) یک تراشه تخصصی برای انجام محاسبات ریاضی شبکه‌های عصبی است.
  2. NPUها لپ‌تاپ را باهوش‌تر نمی‌کنند، بلکه مصرف انرژی را در پردازش‌های هوش مصنوعی کاهش می‌دهند.
  3. پردازش‌های ابری مانند ChatGPT هیچ استفاده‌ای از NPU لپ‌تاپ شما نمی‌کنند.
  4. معیار TOPS به تنهایی کافی نیست و پهنای باند حافظه نقش کلیدی در عملکرد هوش مصنوعی دارد.

اگر در چند ماه گذشته به دنبال خرید لپ‌تاپ بوده باشید، احتمالاً با یک برچسب بازاریابی جدید و همه‌گیر روبرو شده‌اید: «کامپیوتر هوش مصنوعی» (AI PC). شرکت‌های سازنده با افتخار از قطعه‌ای به نام واحد پردازش عصبی یا NPU صحبت می‌کنند و این تصور را به وجود می‌آورند که لپ‌تاپ شما اکنون دارای یک مغز متفکر داخلی است. بسیاری از کاربران تصور می‌کنند که داشتن NPU به معنای اجرای سریع‌تر ChatGPT یا هوشمندتر شدن کلی سیستم است.[1][4]

اما واقعیت با این روایت بازاریابی فاصله زیادی دارد. اگر از هوش مصنوعی‌های مبتنی بر وب مانند ChatGPT، Claude یا Gemini استفاده می‌کنید، NPU لپ‌تاپ شما مطلقاً هیچ کاری انجام نمی‌دهد. تمام پردازش‌های سنگین این مدل‌ها در دیتاسنترهای عظیم و کیلومترها دورتر از شما انجام می‌شود. لپ‌تاپ شما در این سناریو تنها یک صفحه نمایش برای نشان دادن نتایج است.[1]

پس NPU دقیقاً چیست و چرا ناگهان به مهم‌ترین قطعه سیلیکونی تبدیل شده است؟ در هسته خود، شبکه‌های عصبی و مدل‌های هوش مصنوعی بر پایه یک عملیات ریاضی بسیار ساده اما به شدت تکراری بنا شده‌اند: ضرب ماتریس‌ها (Matrix Multiplication). برای اجرای یک مدل هوش مصنوعی، کامپیوتر باید میلیون‌ها یا میلیاردها بار این ضرب‌ها را در کسری از ثانیه انجام دهد.

پردازنده‌های مرکزی (CPU) برای منطق ترتیبی و اجرای سیستم‌عامل عالی هستند، اما در انجام همزمان هزاران عملیات ریاضی ضعیف عمل می‌کنند. پردازنده‌های گرافیکی (GPU) به لطف هزاران هسته کوچک خود، در پردازش موازی و ضرب ماتریس‌ها فوق‌العاده‌اند و به همین دلیل در سرورها برای آموزش هوش مصنوعی استفاده می‌شوند. اما مشکل GPUها این است که برای این کار انرژی بسیار زیادی مصرف می‌کنند و باتری لپ‌تاپ را در زمان کوتاهی می‌بلعند.

اینجاست که NPU وارد میدان می‌شود. واحد پردازش عصبی، تمام بخش‌های غیرضروری برای گرافیک یا محاسبات عمومی را دور می‌ریزد. این تراشه تنها شامل بلوک‌های سخت‌افزاری تخصصی (مانند واحدهای ضرب و انباشت یا MAC) است که منحصراً برای اجرای استنتاج (Inference) شبکه‌های عصبی طراحی شده‌اند. نتیجه این معماری، تراشه‌ای است که می‌تواند همان ریاضیات GPU را با کسری از مصرف انرژی انجام دهد.[3]

واحد پردازش عصبی، تمام بخش‌های غیرضروری برای گرافیک یا محاسبات عمومی را دور می‌ریزد.

راز موفقیت NPU تنها در واحدهای محاسباتی آن نیست، بلکه در نحوه مدیریت حافظه نهفته است. در پردازش هوش مصنوعی، انتقال مداوم داده‌ها بین پردازنده و حافظه رم (RAM) باعث کندی سیستم و مصرف شدید باتری می‌شود. NPUها با ادغام حافظه محلی پرسرعت (SRAM) در داخل خود تراشه، وزن‌های مدل و داده‌ها را در نزدیک‌ترین فاصله به واحدهای محاسباتی نگه می‌دارند و این گلوگاه را از بین می‌برند.[2][3]

این تغییر معماری، کامپیوترهای مدرن را به سیستم‌های «سه موتوره» تبدیل کرده است. در این ساختار ناهمگن که در تراشه‌هایی مانند Core Ultra اینتل دیده می‌شود، CPU وظیفه مدیریت سیستم‌عامل را بر عهده دارد، GPU رندرهای سنگین گرافیکی را انجام می‌دهد و NPU پردازش‌های مداوم و پس‌زمینه هوش مصنوعی را بر دوش می‌کشد.[1][2][4]

تأثیر این معماری در دنیای واقعی، بیشتر درباره «دوام باتری» است تا «هوش». وقتی در یک تماس تصویری زوم پس‌زمینه خود را تار می‌کنید، صدای محیط را حذف می‌کنید یا از ابزار حذف نویز هوش مصنوعی در ادوبی لایت‌روم استفاده می‌کنید، NPU وارد عمل می‌شود. کیفیت نهایی لزوماً بهتر از زمانی که GPU این کار را انجام می‌داد نیست، اما فن‌های لپ‌تاپ دیگر با صدای بلند نمی‌چرخند و باتری شما به جای یک ساعت، ساعت‌ها دوام می‌آورد.[1][3]

با داغ شدن بازار، شرکت‌ها شروع به استفاده از معیاری به نام TOPS (تریلیون عملیات در ثانیه) کرده‌اند. مایکروسافت برای استاندارد Copilot+ خود، حداقل ۴۰ TOPS قدرت NPU را الزامی کرده است. اما TOPS بیشتر یک عدد تئوری و ابزار بازاریابی است. یک NPU با قدرت ۵۰ TOPS به این معناست که می‌تواند ۵۰ تریلیون عملیات ۸ بیتی را در ثانیه انجام دهد، اما این عدد تمام داستان را نمی‌گوید.[4]

گلوگاه واقعی برای اجرای مدل‌های زبانی بزرگ (LLM) به صورت محلی روی لپ‌تاپ، قدرت TOPS نیست، بلکه پهنای باند حافظه و ظرفیت رم است. حتی اگر قدرتمندترین NPU جهان را داشته باشید، اگر لپ‌تاپ شما تنها ۸ گیگابایت رم داشته باشد، مدل هوش مصنوعی در حافظه جا نمی‌شود و سیستم به شدت کند خواهد شد. به همین دلیل است که استاندارد جدید کامپیوترهای هوش مصنوعی، حداقل ۱۶ گیگابایت رم را می‌طلبد.[1]

در نهایت، NPU یک مغز جادویی نیست، بلکه یک قطعه بهینه‌ساز مصرف انرژی است. این تراشه راه را برای آینده‌ای هموار می‌کند که در آن مدل‌های هوش مصنوعی به جای سرورهای ابری، مستقیماً روی دستگاه شما اجرا می‌شوند. این یعنی حریم خصوصی بیشتر، تأخیر صفر و استقلال از اینترنت، بدون اینکه لپ‌تاپ شما در اثر حرارت ذوب شود.[4]

اصطلاحات کلیدی

NPU (Neural Processing Unit)
یک پردازنده تخصصی که منحصراً برای اجرای سریع و کم‌مصرف الگوریتم‌های شبکه‌های عصبی و هوش مصنوعی طراحی شده است.
ضرب ماتریس (Matrix Multiplication)
عملیات ریاضی پایه‌ای که شبکه‌های عصبی برای پردازش داده‌ها به آن متکی هستند و NPUها برای انجام سریع آن بهینه‌سازی شده‌اند.
استنتاج (Inference)
فرآیندی که در آن یک مدل هوش مصنوعی آموزش‌دیده، داده‌های جدید را پردازش کرده و خروجی تولید می‌کند (مانند تشخیص چهره یا تار کردن پس‌زمینه).
TOPS
واحد اندازه‌گیری توان پردازشی هوش مصنوعی که نشان می‌دهد یک تراشه چند تریلیون عملیات ریاضی را می‌تواند در یک ثانیه انجام دهد.
محاسبات ناهمگن (Heterogeneous Computing)
استفاده همزمان از انواع مختلف پردازنده‌ها (CPU، GPU و NPU) در یک سیستم برای انجام بهینه‌تر وظایف مختلف.

منابع

پوشش منابع

4 منبع

3 دیدگاه شناسایی‌شده

تولیدکنندگان سخت‌افزار 35%توسعه‌دهندگان نرم‌افزار 35%تحلیلگران مستقل 30%
  1. [1]HPتولیدکنندگان سخت‌افزار

    NPU vs GPU: Key Differences and AI Performance

    مطالعه در HP
  2. [2]Intelتولیدکنندگان سخت‌افزار

    Quick overview of Intel's Neural Processing Unit (NPU)

    مطالعه در Intel
  3. [3]Contaboتحلیلگران مستقل

    NPU vs GPU - Compare architecture, performance, efficiency

    مطالعه در Contabo
  4. [4]تیم سردبیری کوهستان

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت فناوری اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.