رفتن به محتوای اصلی
کوهستان
توضیح کوهستانمعماری پردازندهکالبدشکافی· 5 دقیقه مطالعه· در فناوری

کالبدشکافی پیش‌بینی پرش (Branch Prediction): پردازنده شما واقعاً چگونه آینده را حدس می‌زند؟

پردازنده‌های مدرن برای جلوگیری از توقف در پردازش، مسیر اجرای برنامه‌ها را پیش از قطعی شدن نتیجه حدس می‌زنند. این مقاله به بررسی مکانیسم پیش‌بینی پرش و شبکه‌های عصبی درون پردازنده‌ها می‌پردازد که با دقت بالای ۹۵ درصد، آینده را پیش‌بینی می‌کنند.

به قلم ایمان شریعتی

به‌طور خلاصه

  1. پردازنده‌های مدرن برای جلوگیری از توقف، مسیر اجرای برنامه‌ها را پیش‌بینی می‌کنند.
  2. اجرای گمانه‌زنانه به پردازنده اجازه می‌دهد دستورات را پیش از قطعی شدن شروط اجرا کند.
  3. در صورت اشتباه در پیش‌بینی، پردازنده کارهای انجام شده را دور می‌ریزد که باعث افت سرعت می‌شود.

پردازنده‌های مدرن با سرعتی سرسام‌آور کار می‌کنند و میلیاردها دستورالعمل را در ثانیه انجام می‌دهند. برای رسیدن به این سرعت، آن‌ها از تکنیکی به نام «خط لوله» (Pipelining) استفاده می‌کنند؛ چیزی شبیه به خط مونتاژ یک کارخانه. در حالی که یک دستورالعمل در حال اجراست، دستورالعمل بعدی در حال رمزگشایی است و دستورالعمل پس از آن از حافظه فراخوانی می‌شود. این کار باعث می‌شود پردازنده هرگز بیکار نماند و جریان داده‌ها پیوسته در حرکت باشد.[1]

اما این خط مونتاژ بی‌نقص، یک دشمن طبیعی دارد: دستورات شرطی (Branches). هر بار که برنامه به یک دستور شرطی یا یک حلقه تکرار می‌رسد، پردازنده با یک دوراهی مواجه می‌شود. آیا شرط برقرار است و باید مسیر اول را برود، یا برقرار نیست و باید مسیر دوم را طی کند؟ مشکل اینجاست که نتیجه این شرط تا چند مرحله جلوتر در خط لوله مشخص نخواهد شد.[1]

اگر پردازنده بخواهد صادقانه رفتار کند، باید خط مونتاژ را متوقف کند و منتظر بماند تا محاسبه شرط تمام شود. در پردازنده‌های چند گیگاهرتزی امروزی که خطوط لوله طولانی (گاهی تا ۲۰ مرحله) دارند، این توقف به معنای فاجعه است. اگر پردازنده برای هر شرط متوقف شود، بخش عمده‌ای از توان پردازشی آن به هدر می‌رود و کامپیوتر شما به شدت کند احساس می‌شود.[1]

اینجاست که مهندسان سخت‌افزار تصمیم گرفتند به جای صبر کردن، آینده را حدس بزنند. این تکنیک که «پیش‌بینی پرش» (Branch Prediction) نامیده می‌شود، به پردازنده اجازه می‌دهد بر اساس شواهد گذشته، مسیر محتمل‌تر را انتخاب کرده و دستورات آن مسیر را پیشاپیش وارد خط لوله کند. به این کار «اجرای گمانه‌زنانه» (Speculative Execution) می‌گویند.[2]

اگر پردازنده درست حدس زده باشد، خط مونتاژ بدون هیچ وقفه‌ای به کار خود ادامه می‌دهد و سرعت به حداکثر می‌رسد. اما اگر اشتباه حدس بزند، باید تمام کارهایی که در مسیر اشتباه انجام داده را دور بریزد، جریمه زمانی آن (معمولاً ۱۰ تا ۲۰ چرخه ساعت) را بپردازد و مسیر درست را از نو شروع کند. بنابراین، دقت این پیش‌بینی‌کننده مستقیماً روی سرعت نهایی کامپیوتر تاثیر می‌گذارد.[1][2]

در روزهای ابتدایی معماری کامپیوتر، پیش‌بینی‌ها بسیار ساده و ایستا بودند. مثلاً پردازنده همیشه فرض می‌کرد که پرش‌های رو به عقب (مثل برگشتن به ابتدای یک حلقه) انجام می‌شوند و پرش‌های رو به جلو انجام نمی‌شوند. اما برنامه‌های پیچیده امروزی به چیزی بسیار هوشمندتر نیاز داشتند تا بتوانند الگوهای رفتاری نرم‌افزارها را درک کنند.[1]

نسل بعدی، پیش‌بینی‌کننده‌های پویا بودند که از تاریخچه استفاده می‌کردند. پردازنده یک جدول کوچک به نام «بافر هدف پرش» (BTB) ساخت که آدرس پرش‌ها و یک شمارنده ساده را در خود نگه می‌داشت. اگر یک شرط در گذشته چند بار متوالی برقرار شده بود، پردازنده فرض می‌کرد باز هم برقرار خواهد بود. این روش برای سال‌ها به خوبی کار می‌کرد.[1]

اما با پیچیده‌تر شدن نرم‌افزارها، حتی این روش هم کافی نبود. گاهی اوقات نتیجه یک شرط به نتیجه شروط قبلی بستگی دارد. در سال ۲۰۰۱، پژوهشگری به نام دانیل خیمنز ایده انقلابی «پیش‌بینی‌کننده پرسپترون» را مطرح کرد: استفاده از شبکه‌های عصبی واقعی در درون سخت‌افزار پردازنده برای یادگیری الگوهای پرش.[1]

این ایده در ابتدا علمی-تخیلی به نظر می‌رسید، اما به سرعت راه خود را به پردازنده‌های تجاری باز کرد. امروزه پردازنده‌های AMD (از معماری Piledriver تا سری Ryzen) و پردازنده‌های اینتل و سامسونگ اگزینوس، همگی از شبکه‌های عصبی سخت‌افزاری برای پیش‌بینی پرش استفاده می‌کنند. وقتی شرکت‌هایی مثل AMD از عبارت بازاریابی شبکه‌های عصبی در فناوری‌های خود صحبت می‌کنند، دقیقاً به همین مکانیسم اشاره دارند.[1]

این ایده در ابتدا علمی-تخیلی به نظر می‌رسید، اما به سرعت راه خود را به پردازنده‌های تجاری باز کرد.

البته باید مراقب فریب‌های بازاریابی باشیم. این «هوش مصنوعی» درون پردازنده شما، چیزی شبیه به چت‌بات‌های امروزی یا شبکه‌های عصبی عمیق نیست. پرسپترون‌ها ساده‌ترین نوع شبکه‌های عصبی هستند. آن‌ها از یک رجیستر تاریخچه جهانی و مجموعه‌ای از وزن‌ها (اعداد صحیح ذخیره شده در حافظه سریع) تشکیل شده‌اند.[1]

نحوه کار آن‌ها به طرز شگفت‌انگیزی سریع است: پردازنده در یک چرخه ساعت، تاریخچه پرش‌های قبلی را با وزن‌های اختصاص‌یافته ضرب و جمع می‌کند. اگر نتیجه نهایی مثبت باشد، پیش‌بینی می‌کند که پرش انجام می‌شود و اگر منفی باشد، می‌گوید انجام نمی‌شود. اگر پیش‌بینی اشتباه از آب دربیاید، پردازنده بلافاصله وزن‌ها را تنظیم می‌کند تا دفعه بعد اشتباه نکند.[1]

این یادگیری ماشینی در سطح سخت‌افزار، دقت پیش‌بینی را در پردازنده‌های مدرن به بالای ۹۵ درصد رسانده است. این یعنی از هر ۱۰۰ دوراهی، پردازنده شما ۹۵ بار آینده را به درستی می‌بیند. همین ۵ درصد خطای باقی‌مانده است که تفاوت عملکرد بین نسل‌های مختلف پردازنده‌ها را رقم می‌زند.[1]

با این حال، این توانایی شگفت‌انگیز در حدس زدن آینده، یک نقطه ضعف تاریک هم دارد. در سال ۲۰۱۸، پژوهشگران امنیتی کشف کردند که اجرای گمانه‌زنانه می‌تواند باعث نشت اطلاعات شود. آسیب‌پذیری‌های معروفی مثل Spectre و Meltdown دقیقاً از همین نقطه سوءاستفاده کردند.[2][3]

وقتی پردازنده یک مسیر اشتباه را حدس می‌زند و بعداً آن را دور می‌ریزد، ردپای ضعیفی از داده‌هایی که به آن‌ها دسترسی پیدا کرده در حافظه پنهان (Cache) باقی می‌ماند. هکرها می‌توانند با فریب دادن پیش‌بینی‌کننده پرش، پردازنده را مجبور کنند تا رمزهای عبور را به صورت گمانه‌زنانه بخواند و سپس از طریق بررسی تغییرات حافظه پنهان، آن رمزها را استخراج کنند.[3]

در نهایت، پیش‌بینی پرش یکی از زیباترین مصالحه‌ها در علوم کامپیوتر است. ما برای داشتن کامپیوترهایی که بتوانند بازی‌های سنگین را اجرا کنند و نرم‌افزارهای پیچیده را در کسری از ثانیه پردازش کنند، به پردازنده‌هایی نیاز داریم که دائماً در حال قمار کردن روی آینده باشند. قماری که به لطف شبکه‌های عصبی مینیاتوری، تقریباً همیشه برنده است.[4]

اصطلاحات کلیدی

خط لوله (Pipeline)
تکنیکی در معماری پردازنده که در آن مراحل مختلف اجرای دستورالعمل‌ها (مانند خط مونتاژ) به صورت همزمان انجام می‌شود.
توقف خط لوله (Pipeline Stall)
زمانی که پردازنده به دلیل مشخص نبودن مسیر بعدی برنامه، مجبور می‌شود خط مونتاژ خود را متوقف کند.
اجرای گمانه‌زنانه (Speculative Execution)
اجرای پیشاپیش دستورالعمل‌ها بر اساس حدس و گمان، پیش از آنکه پردازنده بداند آیا واقعاً به آن دستورات نیاز دارد یا خیر.
بافر هدف پرش (BTB)
یک حافظه کوچک درون پردازنده که آدرس مقصد پرش‌های قبلی را برای استفاده در پیش‌بینی‌های آینده ذخیره می‌کند.
پرسپترون (Perceptron)
ساده‌ترین نوع شبکه عصبی مصنوعی که با ضرب و جمع وزن‌ها، تصمیم‌گیری‌های دوگانه (بله یا خیر) را انجام می‌دهد.

پرسش‌های متداول

اگر پردازنده اشتباه حدس بزند چه اتفاقی می‌افتد؟

پردازنده تمام کارهایی که بر اساس حدس اشتباه انجام داده را دور می‌ریزد (Flush) و مسیر درست را از نو شروع می‌کند که باعث هدر رفتن ۱۰ تا ۲۰ چرخه ساعت می‌شود.

آیا این همان هوش مصنوعی است که در چت‌بات‌ها می‌بینیم؟

خیر. شبکه‌های عصبی درون پردازنده‌ها (پرسپترون‌ها) بسیار ساده‌تر هستند و فقط برای یک کار طراحی شده‌اند: ضرب و جمع سریع وزن‌ها در یک چرخه ساعت برای تصمیم‌گیری بین دو گزینه.

چرا پردازنده فقط صبر نمی‌کند تا نتیجه شرط مشخص شود؟

چون پردازنده‌های مدرن بسیار سریع‌تر از حافظه هستند. صبر کردن برای هر شرط باعث می‌شود پردازنده بیشتر وقت خود را در حالت بیکاری بگذراند و سرعت کامپیوتر به شدت افت کند.

بررسی عمیق دیدگاه‌ها

طراحان معماری پردازنده

تمرکز بر افزایش دستورالعمل بر چرخه (IPC) و مدیریت مصرف انرژی.

برای معماران سخت‌افزار، پیش‌بینی پرش یک بازی ریاضی برای بهینه‌سازی است. آن‌ها می‌دانند که افزایش طول خط لوله (Pipeline) برای رسیدن به فرکانس‌های بالاتر، هزینه اشتباه در پیش‌بینی را به شدت افزایش می‌دهد. بنابراین، آن‌ها دائماً در حال ایجاد تعادل بین پیچیدگی پیش‌بینی‌کننده (که ترانزیستور و انرژی مصرف می‌کند) و سودی هستند که از جلوگیری از توقف خط لوله به دست می‌آید. استفاده از پرسپترون‌ها به جای جداول عظیم، یک پیروزی بزرگ در این تعادل بود.

توسعه‌دهندگان نرم‌افزار و کامپایلرها

تلاش برای نوشتن کدهایی که پردازنده را فریب ندهند.

برنامه‌نویسان سیستم و توسعه‌دهندگان کامپایلرها تلاش می‌کنند تا حد امکان کدهای «بدون پرش» (Branchless) بنویسند. آن‌ها می‌دانند که یک دستور شرطی غیرقابل پیش‌بینی در داخل یک حلقه پردازشی سنگین، می‌تواند عملکرد برنامه را به شدت کاهش دهد. به همین دلیل، کامپایلرهای مدرن گاهی کدها را به گونه‌ای بازنویسی می‌کنند که از دستورات ریاضی به جای دستورات شرطی استفاده شود تا پیش‌بینی‌کننده پردازنده دچار سردرگمی نشود.

پژوهشگران امنیت سایبری

نگرانی از نشت اطلاعات از طریق اجرای گمانه‌زنانه.

از دیدگاه امنیتی، پیش‌بینی پرش یک شمشیر دو لبه است. پژوهشگران نشان داده‌اند که وقتی پردازنده مسیر اشتباهی را به صورت گمانه‌زنانه اجرا می‌کند، تغییراتی در حافظه پنهان (Cache) ایجاد می‌شود که حتی پس از دور ریختن نتایج (Flush) باقی می‌مانند. این ردپاها به هکرها اجازه می‌دهد تا از طریق حملاتی مانند Spectre، داده‌های حساس را از حافظه استخراج کنند. این موضوع باعث شده تا سازندگان پردازنده مجبور شوند وصله‌های امنیتی پیچیده‌ای را اعمال کنند که گاهی سرعت پردازنده را کاهش می‌دهد.

معماران سخت‌افزار 40%توسعه‌دهندگان نرم‌افزار 30%پژوهشگران امنیت 30%
معماران سخت‌افزار
تمرکز بر افزایش سرعت پردازنده از طریق پیش‌بینی دقیق‌تر با کمترین مصرف انرژی.
توسعه‌دهندگان نرم‌افزار
تلاش برای نوشتن کدهای بهینه‌ای که پردازنده را در پیش‌بینی دچار اشتباه نکنند.
پژوهشگران امنیت
تمرکز بر خطرات امنیتی ناشی از اجرای گمانه‌زنانه و نشت اطلاعات در حافظه پنهان.

دیدگاه‌هایی که این گزارش پوشش نداده

  • طراحان سیستم‌عامل که باید وصله‌های نرم‌افزاری را برای مدیریت خطرات امنیتی پیش‌بینی پرش اعمال کنند.

منابع

پوشش منابع

4 منبع

3 دیدگاه شناسایی‌شده

معماران سخت‌افزار 40%توسعه‌دهندگان نرم‌افزار 30%پژوهشگران امنیت 30%
  1. [1]Wikipediaمعماران سخت‌افزار

    Branch predictor

    مطالعه در Wikipedia →
  2. [2]Wikipediaمعماران سخت‌افزار

    Speculative execution

    مطالعه در Wikipedia →
  3. [3]arXivپژوهشگران امنیت

    Spectre Attacks: Exploiting Speculative Execution

    مطالعه در arXiv →
  4. [4]تیم سردبیری کوهستانمعماران سخت‌افزار

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان →

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.