رفتن به محتوای اصلی
توضیح کوهستانسخت‌افزار هوش مصنوعیتوضیح۲۷ مرداد ۱۴۰۵، ۲۳:۲۵· 6 دقیقه مطالعه· #1 از 3 در راهنماها

محاسبات نورومورفیک در برابر محاسبات درون حافظه‌ای: راهنمای مصالحه‌ها در بهره‌وری هوش مصنوعی، استقرار لبه‌ای و گلوگاه فون نویمان

در حالی که هوش مصنوعی مرزهای فیزیکی سخت‌افزارهای سنتی را جابجا می‌کند، دو معماری رقیب برای حل گلوگاه حافظه در حال ظهور هستند. این راهنما تفاوت رویکرد پردازنده‌های درون حافظه‌ای و نورومورفیک را در زمینه بهره‌وری انرژی در محاسبات لبه‌ای (Edge) بررسی می‌کند.

به قلم آناهیتا طباطبایی

معماران زیرساخت ابری 35%توسعه‌دهندگان هوش مصنوعی لبه‌ای 35%محققان سخت‌افزار 30%
معماران زیرساخت ابری
تمرکز بر به حداکثر رساندن توان عملیاتی خام و مدیریت مدل‌های عظیم و متراکم.
توسعه‌دهندگان هوش مصنوعی لبه‌ای
اولویت‌بندی عمر باتری، مدیریت حرارتی و تأخیر بلادرنگ برای دستگاه‌های تعبیه‌شده.
محققان سخت‌افزار
بررسی مواد فیزیکی و معماری‌های نوظهور مورد نیاز برای فراتر رفتن از محدودیت‌های سیلیکون.

چرا مهم است

برای مهندسان سخت‌افزار و طراحان محصول، انتخاب شتاب‌دهنده هوش مصنوعی مناسب تعیین می‌کند که آیا یک دستگاه لبه‌ای (Edge Device) می‌تواند سال‌ها با یک باتری سکه‌ای کار کند یا نیاز به شارژ مداوم دارد. درک این مصالحه‌های معماری برای استقرار نسل بعدی حسگرهای هوشمند، دستگاه‌های پوشیدنی و رباتیک صنعتی حیاتی است.

برای تیم‌های مهندسی که نسل بعدی حسگرها و دستگاه‌های پوشیدنی هوشمند را می‌سازند، انتخاب سخت‌افزار هوش مصنوعی تعیین می‌کند که آیا محصول می‌تواند سال‌ها با یک باتری سکه‌ای دوام بیاورد یا در عرض چند ساعت از کار بیفتد. معماری بنیادین محاسبات مدرن—مدل فون نویمان—در محیط‌های لبه‌ای (Edge) کارایی خود را از دست داده است. از آنجا که واحدهای پردازشی و حافظه از نظر فیزیکی جدا هستند، داده‌ها باید دائماً از طریق یک گذرگاه (Bus) به عقب و جلو منتقل شوند. برای دهه‌ها، این جداسازی یک هزینه جزئی بود. امروزه، این یک گلوگاه فلج‌کننده است که انرژی را هدر می‌دهد و عملکرد بلادرنگ را از بین می‌برد.[5]

آموزش و اجرای شبکه‌های عصبی عمیق نیازمند میلیاردها عملیات ضرب ماتریس-بردار است. در واحدهای پردازش گرافیکی (GPU) و واحدهای پردازش تانسور (TPU) سنتی، خودِ محاسبه کسری از نانوثانیه طول می‌کشد. با این حال، بازیابی وزن‌ها و فعال‌سازی‌ها از حافظه به طور قابل توجهی زمان‌برتر است و تا ۹۰ درصد از کل انرژی سیستم را مصرف می‌کند. این «دیوار حافظه» تراشه‌های متداول را برای دستگاه‌های لبه‌ای با باتری بسیار ناکارآمد می‌کند و توسعه‌دهندگان را مجبور می‌سازد به دنبال پارادایم‌های سخت‌افزاری کاملاً جدید باشند.[5]

برای استقرار هوش مصنوعی پیشرفته بدون نیاز به منبع تغذیه ثابت، صنعت سخت‌افزار دو راه‌حل متمایز را دنبال می‌کند: محاسبات درون حافظه‌ای (IMC) و مهندسی نورومورفیک. هر دو به دنبال حذف گلوگاه فون نویمان هستند، اما از زوایای کاملاً متفاوتی به این مشکل نزدیک می‌شوند. درک مصالحه‌های بین این دو برای تطبیق سیلیکون مناسب با کاربرد مناسب ضروری است.[1][2]

چگونه طراحی‌های درون حافظه‌ای و نورومورفیک دیوار حافظه سنتی را حذف می‌کنند.

محاسبات درون حافظه‌ای مستقیماً با انجام محاسبات دقیقاً در جایی که داده‌ها قرار دارند، مشکل جابجایی داده‌ها را حل می‌کند. به جای انتقال وزن‌ها به پردازنده، پردازنده به طور مؤثری در سراسر آرایه حافظه توزیع می‌شود. این رویکرد را می‌توان با استفاده از حافظه دیجیتال متداول، مانند SRAM، یا حافظه غیرفرار آنالوگ نوظهور، مانند رم مقاومتی (ReRAM) یا حافظه تغییر فاز (PCM) پیاده‌سازی کرد.[4]

IMC آنالوگ به ویژه برای حجم کاری سنگین هوش مصنوعی جذاب است. با بهره‌گیری از خواص فیزیکی دستگاه‌های ممریستیو، یک آرایه حافظه کامل می‌تواند یک ضرب ماتریس-بردار بزرگ را در یک مرحله با استفاده از قوانین مدار کیرشهف انجام دهد. ولتاژهای ورودی نشان‌دهنده فعال‌سازی‌ها، رسانایی سلول‌های حافظه نشان‌دهنده وزن‌ها، و جریان‌های خروجی حاصل نشان‌دهنده مجموع‌های محاسبه‌شده هستند.[1][4]

این محاسبات فیزیکی منجر به بهره‌وری انرژی فوق‌العاده‌ای می‌شود. در حالی که شتاب‌دهنده‌های دیجیتال متداول معمولاً ۱ تا ۱۰ ترا عملیات در ثانیه به ازای هر وات (TOPS/W) ارائه می‌دهند، پیاده‌سازی‌های IMC آنالوگ می‌توانند به ۱۰ تا ۱۰۰ TOPS/W دست یابند. این بهبود یک مرتبه بزرگی، IMC را برای اجرای شبکه‌های عصبی کانولوشنال استاندارد (CNN) و ترانسفورمرها مستقیماً روی دستگاه‌های لبه‌ای بسیار جذاب می‌کند.[1]

محاسبات درون حافظه‌ای آنالوگ دستاوردهای عظیم توان عملیاتی را برای عملیات ماتریسی متراکم ارائه می‌دهد.

با این حال، IMC آنالوگ دارای محدودیت‌های خاصی است. دستگاه‌های فیزیکی در معرض نویز حرارتی، رانش رسانایی و تغییرپذیری ساخت هستند. در نتیجه، دقت محاسباتی معمولاً به ۴ تا ۸ بیت محدود می‌شود. اگرچه این میزان برای بسیاری از وظایف استنتاج لبه‌ای کافی است، اما نیازمند تکنیک‌های آموزشی تخصصی «آگاه از سخت‌افزار» است تا اطمینان حاصل شود که شبکه عصبی با وجود نویز آنالوگ، دقیق باقی می‌ماند.[1][4]

دستگاه‌های فیزیکی در معرض نویز حرارتی، رانش رسانایی و تغییرپذیری ساخت هستند.

محاسبات نورومورفیک رویکردی کاملاً متفاوت و الهام گرفته از زیست‌شناسی را در پیش می‌گیرد. به جای شتاب دادن به محاسبات استاندارد ماتریس متراکم، تراشه‌های نورومورفیک ساختار و عملکرد مغز انسان را شبیه‌سازی می‌کنند. آن‌ها از نورون‌ها و سیناپس‌های مصنوعی استفاده می‌کنند که از طریق جهش‌های الکتریکی گسسته ارتباط برقرار می‌کنند و چیزی را تشکیل می‌دهند که به عنوان شبکه‌های عصبی جهشی (SNN) شناخته می‌شوند.[2][5]

ویژگی تعریف‌کننده سخت‌افزار نورومورفیک، پراکندگی دینامیک شدید است. در یک شبکه عصبی متداول، هر نورون در یک لایه، خروجی را برای هر فریم داده محاسبه می‌کند، صرف نظر از اینکه ورودی تغییر کرده باشد یا خیر. در یک سیستم نورومورفیک، محاسبات کاملاً رویدادمحور است. یک نورون تنها زمانی شلیک می‌کند—و انرژی مصرف می‌کند—که ورودی انباشته شده آن از یک آستانه خاص عبور کند.[3]

شبکه‌های عصبی جهشی با شلیک کردن تنها زمانی که توسط یک رویداد فعال می‌شوند، در مصرف انرژی صرفه‌جویی می‌کنند.

این معماری رویدادمحور به طور استثنایی برای پردازش داده‌های زمانی از حسگرها مناسب است. اگر یک تراشه نورومورفیک در حال نظارت بر یک دوربین امنیتی باشد، در حالی که صحنه ثابت است، تقریباً هیچ انرژی مصرف نمی‌کند. تنها زمانی محاسبه می‌کند که یک پیکسل تغییر کند. تحقیقات نشان می‌دهد که این مکانیسم آستانه تطبیقی می‌تواند مصرف انرژی را تا ۶۷ درصد در مقایسه با پردازش مداوم کاهش دهد.[2][3]

هنگامی که پردازنده‌های نورومورفیک روی دستگاه‌های لبه‌ای مستقر می‌شوند، می‌توانند به دستاوردهای بهره‌وری خیره‌کننده‌ای دست یابند. ارزیابی‌های بنچمارک SNNها بر روی سخت‌افزارهای تخصصی، بهبود انرژی تا ۳۱۲ برابر نسبت به خطوط پایه GPU متداول را نشان داده‌اند. این امر محاسبات نورومورفیک را به انتخاب اصلی برای کاربردهای «همیشه روشن» (always-on)، مانند تشخیص ناهنجاری صوتی در کارخانه‌ها یا تشخیص کلمات کلیدی در دستگاه‌های الکترونیکی پوشیدنی تبدیل می‌کند.[2]

با این حال، پارادایم نورومورفیک با یک منحنی پذیرش شیب‌دار روبرو است. اکوسیستم نرم‌افزاری آن در مقایسه با ابزارهای بالغ موجود برای یادگیری عمیق استاندارد، نوپا است. تبدیل یک شبکه عصبی سنتی به فرمت جهشی پیچیده است، و آموزش مستقیم SNNها به دلیل ناسازگاری ماهیت گسسته جهش‌ها با تکنیک‌های استاندارد پس‌انتشار (Backpropagation)، همچنان یک حوزه فعال تحقیقات الگوریتمی است.[3]

تراشه‌های نورومورفیک در محیط‌های لبه‌ای «همیشه روشن» مانند نظارت صوتی صنعتی برتری دارند.

علاوه بر این، تراشه‌های نورومورفیک با حجم کاری متراکم و پیوسته که هوش مصنوعی سنتی در آن برتری دارد، مشکل دارند. اگر یک برنامه نیاز به پردازش همزمان هر پیکسل از یک تصویر با وضوح بالا داشته باشد، مزیت رویدادمحور بودن از بین می‌رود. در این سناریوها، سربار مدیریت جهش‌ها در واقع می‌تواند سیستم را کمتر از یک شتاب‌دهنده استاندارد کارآمد کند.[3][5]

در نهایت، انتخاب بین محاسبات درون حافظه‌ای و سخت‌افزار نورومورفیک، قابلیت‌های نسل بعدی دستگاه‌های لبه‌ای را تعیین می‌کند. IMC با فراهم کردن دستاوردهای عظیم در توان عملیاتی برای عملیات متراکم از طریق حذف دیوار حافظه، انتقال نرم‌تری را برای مدل‌های هوش مصنوعی موجود ارائه می‌دهد. محاسبات نورومورفیک نیازمند بازنگری اساسی در طراحی الگوریتم است، اما حفظ باتری بی‌نظیری را برای نظارت پراکنده و پیوسته فراهم می‌کند.[1][2]

در حالی که صنعت نیمه‌رسانا مرزهای فیزیکی سیلیکون را جابجا می‌کند، مرزهای بین این دو پارادایم شروع به محو شدن کرده‌اند. محققان اکنون در حال بررسی معماری‌های ترکیبی هستند که از آرایه‌های متقاطع درون حافظه‌ای برای پیاده‌سازی وزن‌های سیناپسی شبکه‌های عصبی جهشی استفاده می‌کنند و بدین ترتیب ذخیره‌سازی متراکم IMC را با بهره‌وری رویدادمحور طراحی نورومورفیک ترکیب می‌کنند.[4][6]

نکات کلیدی

  • تراشه‌های هوش مصنوعی سنتی تا ۹۰٪ از انرژی خود را صرف جابجایی داده بین حافظه و پردازنده‌ها می‌کنند.
  • محاسبات درون حافظه‌ای این مشکل را با انجام محاسبات ماتریسی متراکم دقیقاً در جایی که داده‌ها ذخیره شده‌اند، حل می‌کند.
  • محاسبات نورومورفیک با تقلید از مغز، از جهش‌های رویدادمحور برای دستیابی به بهره‌وری انرژی فوق‌العاده برای داده‌های پراکنده استفاده می‌کند.
  • محاسبات درون حافظه‌ای آنالوگ توان عملیاتی عظیمی را ارائه می‌دهد اما با دقت و نویز فیزیکی مشکل دارد.
  • انتخاب بین این دو معماری، عمر باتری و قابلیت‌های دستگاه‌های لبه‌ای نسل بعدی را تعیین می‌کند.

منابع

پوشش منابع

6 منبع

3 دیدگاه شناسایی‌شده

معماران زیرساخت ابری 35%توسعه‌دهندگان هوش مصنوعی لبه‌ای 35%محققان سخت‌افزار 30%
  1. [1]Natureمعماران زیرساخت ابری

    NeuRRAM: A compute-in-memory chip based on resistive random-access memory

    مطالعه در Nature
  2. [2]Scienceتوسعه‌دهندگان هوش مصنوعی لبه‌ای

    A million spiking-neuron integrated circuit with a scalable communication network and interface

    مطالعه در Science
  3. [3]arXivتوسعه‌دهندگان هوش مصنوعی لبه‌ای

    Spiking Neural Networks for Computer Vision

    مطالعه در arXiv
  4. [4]IEEE Xploreمعماران زیرساخت ابری

    In-Memory Computing with Resistive Switching Devices

    مطالعه در IEEE Xplore
  5. [5]Wikipediaمحققان سخت‌افزار

    Neuromorphic engineering

    مطالعه در Wikipedia
  6. [6]تیم سردبیری کوهستانمحققان سخت‌افزار

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت راهنماها اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.