رفتن به محتوای اصلی
کوهستان
توضیح کوهستانسیستم‌های توزیع‌شدهآپاچی زوکیپر· 7 دقیقه مطالعه· در فناوری

توکن‌های شمشیربازی چگونه مانع از خطای دوپارگی مغز در قفل‌های توزیع‌شده می‌شوند؟

یک قفل توزیع‌شده به‌تنهایی قادر به تضمین سلامت داده‌ها نیست؛ چرا که پردازشی که موقتاً متوقف شده می‌تواند پس از بیداری، روی داده‌های دارنده جدید قفل بازنویسی کند. سیستم‌های ذخیره‌سازی با ضمیمه کردن یک شماره سریال اکیداً صعودی به هر درخواست نوشتن، می‌توانند به‌طور خودکار عملیات‌های معوق مربوط به اجاره‌های منقضی‌شده را پس بزنند.

به قلم کاوه کردی

به‌طور خلاصه

  • قفل‌های توزیع‌شده متکی بر زمان به دلیل خطر بیدار شدن پردازش‌های معلق پس از انقضای اجاره، امنیت داده‌ها را تضمین نمی‌کنند.
  • توکن‌های شمشیربازی این نقص را با تخصیص شماره‌های ترتیبی اکیداً افزایشی به هر نوبت از دریافت قفل مرتفع می‌کنند.
  • سیستم ذخیره‌سازی با بررسی مستمر این توکن‌ها، هرگونه درخواستی را که حاوی عددی کوچک‌تر از بالاترین رقم قبلی باشد رد می‌کند.

توکن‌های شمشیربازی (Fencing Tokens) با سنجاق کردن یک شماره ترتیب اکیداً صعودی به هر نوبت از تصاحب قفل، جلوی خطای فاجعه‌بار «دوپارگی مغز» (Split-Brain) و تخریب داده‌ها را می‌گیرند؛ سازوکاری که به سیستم ذخیره‌سازی زیرین اجازه می‌دهد درخواست‌های نوشتن کلاینت‌هایی را که مدت اجاره قفل‌شان به پایان رسیده، بی‌درنگ پس بزند. در عمل، وقتی سامانه‌ای با وقفه کامل جمع‌آوری زباله حافظه (Stop-the-world GC) مواجه می‌شود، کلاینت برای مدتی منجمد شده، اعتبار قفلش را از دست می‌دهد و سپس با این توهم بیدار می‌شود که هنوز مالک انحصاری منبع است.[1]

این آسیب‌پذیری ساختاری در تمام معماری‌های توزیع‌شده‌ای که برای حفظ انحصار متقابل به اجاره‌های زمان‌دار تکیه می‌کنند، وجود دارد. در این الگو، سرورِ مدیریت قفل به کلاینت اجازه می‌دهد برای بازه زمانی مشخصی—مثلاً ۳۰ ثانیه—یک منبع مشترک را دستکاری کند.[2]

اگر کلاینت ناگهان از کار بیفتد، مهلت اجاره تمام می‌شود تا منبع برای همیشه قفل نماند؛ ایده‌ای که روی کاغذ منطقی است، اما تکیه بر مفهوم طول عمر (TTL) در بستر واقعی محیط‌های اجرای امروزی، به یک حفره مهلک امنیتی ختم می‌شود.[1]

برنامه‌هایی که با زبان‌هایی مثل جاوا یا گو نوشته می‌شوند، هر از گاهی تمام رشته‌های پردازشی را متوقف می‌کنند تا حافظه آزاد شود. این وقفه‌های پاک‌سازی حافظه معمولاً بین ۵ تا ۵۰ میلی‌ثانیه طول می‌کشند، اما زیر بار سنگین کاری، مواردی ثبت شده که این تعلیق به ۱۲۰ ثانیه یا حتی بیشتر کشیده شده است.[1]

خطر نوشتن در وضعیت دوپارگی مغز

در طول چنین وقفه سنگینی، کل فرآیند کلاینت موقتاً فلج شده و هیچ ارتباطی با شبکه ندارد. سرور قفل که این سکوت طولانی را می‌بیند، فرض را بر مرگ کلاینت گذاشته و اجازه می‌دهد اجاره ۳۰ ثانیه‌ای باطل شود.[3]

سپس قفل بدون هیچ هشداری به کلاینت دوم واگذار می‌شود و آن کلاینت نیز پردازش همان وظیفه را آغاز می‌کند. فاجعه درست در لحظه‌ای رقم می‌خورد که وقفه حافظه کلاینت اول به پایان می‌رسد.[1]

مکث جمع‌آوری زباله حافظه می‌تواند به‌سادگی بسیار طولانی‌تر از مدت‌زمان پیش‌فرض اجاره قفل توزیع‌شده شود.

از دید آن پردازشِ از خواب بیدار شده، هیچ زمانی نگذشته است؛ کلاینت اصلاً روحش هم خبر ندارد که اجاره‌اش فسخ شده است. بنابراین درست از همان نقطه‌ای که متوقف شده بود کار را ادامه می‌دهد و دستور نوشتن را روانه پایگاه داده می‌کند.[1]

از آنجا که کلاینت دوم هم هم‌زمان مشغول نوشتن روی همان داده مشترک است، سامانه وارد وضعیت فاجعه‌بار دوپارگی مغز می‌شود. دو فرآیند کاملاً مستقل حالا باور دارند که دسترسی انحصاری به یک موجودیت واحد در اختیار آنهاست.[5]

مارتین کلپمن، پژوهشگر برجسته سیستم‌های توزیع‌شده، در تحلیل جریان‌ساز خود در سال ۲۰۱۶ خاطرنشان کرد: «قفل‌ها محدودیت زمانی دارند که فی‌نفسه ایده خوبی است؛ وگرنه اگر کلاینتی از کار بیفتد، منبع تا ابد قفل می‌ماند. با این حال، اگر وقفه جمع‌آوری زباله بیشتر از زمان انقضای اجاره طول بکشد، کلاینت به کارش ادامه داده و تغییراتی ناامن اعمال می‌کند.»[1]

اعمال ترتیب با توکن‌های شمشیربازی

نکته اینجاست که خودِ سرویس قفل‌گذاری هیچ توانی برای جلوگیری از این تداخل ندارد. تا زمانی که کلاینت تأخیرخورده بیدار شود و بسته نوشتن خود را به شبکه بفرستد، سرور قفل دیگر هیچ نقشی در این تراکنش ایفا نمی‌کند.[3]

کلاینت مستقیماً با لایه ذخیره‌سازی صحبت می‌کند؛ لایه‌ای که به خودی خود هیچ اطلاعی از وضعیت قفل‌های توزیع‌شده ندارد. این نقطه کور معماری نشان می‌دهد که پیچیده‌تر کردن الگوریتم‌های اجماع در سرور قفل، هیچ کمکی به حل این رقابت مخرب (Race Condition) نمی‌کند.[1]

چه مدیریت قفل را به یک سرور منفرد بسپارید و چه آن را روی کلاستری با قابلیت اطمینان بالا سوار کنید، موتور ذخیره‌سازی همچنان در برابر بسته‌های تأخیری بی‌دفاع است. این نظارت باید حتماً در مقصد نهایی پیاده شود.[1]

لایه ذخیره‌سازی با تکیه بر توکن شمشیربازی، درخواست‌های نوشتن کلاینت‌های منقضی را شناسایی و مسدود می‌کند.

برای پر کردن این شکاف، مهندسان به سراغ توکن‌های شمشیربازی رفته‌اند؛ یک شماره ترتیبی اکیداً یکنواخت و صعودی که توسط سرویس قفل تولید می‌شود. هر بار که کلاینتی قفلی را می‌گیرد یا آن را تمدید می‌کند، سرویس یک عدد صحیح برمی‌گرداند که قطعاً از تمام شماره‌های قبلی بزرگ‌تر است.[1]

کلاینت موظف است این توکن را همراه تمام درخواست‌های نوشتن خود به سیستم ذخیره‌سازی بفرستد. در مقابل، موتور پایگاه داده نیز بالاترین رقمی را که تاکنون پردازش کرده به عنوان سقف معتبر ذخیره نگه می‌دارد.[5]

تولید دنباله‌های اکیداً صعودی

همین مقایسه ریاضی ساده، سدی نفوذناپذیر در برابر داده‌های سوخته می‌سازد. وقتی کلاینت اول پس از وقفه‌ای طولانی بیدار می‌شود، تلاش می‌کند داده‌ها را با همان توکن قدیمی‌تر خود، مثلاً ۳۳، بنویسد.[1]

سیستم ذخیره‌سازی این عدد را با توکن بالاتری که قبلاً از کلاینت دوم دریافت کرده (مثلاً ۳۴) مقایسه می‌کند. پایگاه داده با تشخیص نقض ترتیب زمانی، درخواست نوشتن کلاینت تأخیرخورده را در دم رد می‌کند.[1]

این سازوکار بار اصلی حفظ یکپارچگی داده را از اجاره‌های شکننده قفل برمی‌دارد و روی دوش لایه پایدار ذخیره‌سازی می‌گذارد. سرور قفل فقط ترتیب را هماهنگ می‌کند، اما دیوار مرزی واقعی را پایگاه داده بالا می‌کشد.[3]

در مستندات رسمی ردیس درباره الگوهای قفل‌گذاری توزیع‌شده صراحتاً آمده است: «شما باید توکن‌های شمشیربازی را پیاده‌سازی کنید. این موضوع به‌ویژه برای فرآیندهایی که زمان زیادی می‌برند حیاتی است و در مورد هر سیستم قفل توزیع‌شده‌ای صدق می‌کند.»[2]

البته همه پیاده‌سازی‌های قفل توزیع‌شده به صورت پیش‌فرض قادر به تولید توکن‌های اکیداً صعودی نیستند. به عنوان مثال، در ساختارهای استاندارد ردیس، توسعه‌دهندگان ناچارند خودشان اسکریپت جداگانه‌ای برای افزایش اتمیک شمارنده در کنار دریافت قفل بنویسند.[2]

محدودیت‌های فرضیات مبتنی بر زمان

در نقطه مقابل، سیستم‌های مبتنی بر اجماع اساساً برای ارائه همین تضمین‌های ترتیبی طراحی شده‌اند. آپاچی زوکیپر به هر تغییر وضعیتی یک شناسه تراکنش ۶۴ بیتی ترتیبی به نام zxid اختصاص می‌دهد.[3]

کلاینت‌ها می‌توانند به راحتی از این شناسه به عنوان یک توکن شمشیربازی امن استفاده کنند. به همین ترتیب، پایگاه داده etcd که وظیفه هماهنگی کلاسترهای کوبرنتیز را به دوش می‌کشد، تمام اصلاحات را با یک شماره بازنگری (Revision) سراسری ۶۴ بیتی دنبال می‌کند.[4]

هنگامی که کلاینتی در etcd یک اجاره توزیع‌شده دریافت می‌کند، شماره ویرایش ایجاد آن کلید، نقش یک توکن خودکار و فزاینده را بازی می‌کند که تمامی الزامات شمشیربازی داده را برآورده می‌سازد.[4]

توقف‌های مستندشده در سیستم‌ها معمولاً بسیار طولانی‌تر از زمان انقضای اجاره در قفل‌گذاری‌های ساده هستند.

فریم‌ورک هیزل‌کست (Hazelcast) این سازوکار را مستقیماً در قالب واسط کاربری FencedLock پیاده کرده و زحمت تولید دستی اعداد ترتیبی را از دوش منطق برنامه برداشته است. این فریم‌ورک وضعیت قفل را در یک گروه اجماع تکثیر کرده و با هر بار جابه‌جایی قفل، مقدار توکن را به‌طور خودکار افزایش می‌دهد.[5]

مهندسان هیزل‌کست در گزارش فنی خود پیرامون این قابلیت توضیح داده‌اند: «واسط FencedLock زنده بودن دارندگان قفل را از طریق مکانیزم نشست یکپارچه پایش می‌کند و اجازه می‌دهد سیستم‌های متفرقه نیز به راحتی در پروتکل قفل‌گذاری مشارکت داشته باشند.»[5]

پیاده‌سازی کنترل‌ها در لایه ذخیره‌سازی

ضرورت به‌کارگیری توکن‌های شمشیربازی پرده از یک واقعیت تلخ در سیستم‌های توزیع‌شده برمی‌دارد: زمان ساعت دیواری چیزی جز یک توهم نیست. تکیه بر اجاره ۳۰ ثانیه‌ای فرض را بر این می‌گذارد که ۳۰ ثانیه سرور قفل با ۳۰ ثانیه کلاینت مو نمی‌زند.[1]

در دنیای واقعی، خطای رانش ساعت و زمان‌بندی پردازنده مفهوم زمان را کاملاً متغیر می‌کنند. یک هایپروایزر در حال مدیریت ماشین‌های مجازی می‌تواند کل سیستم‌عامل مهمان را برای انتقال به یک سرور فیزیکی دیگر ناگهان متوقف کند.[1]

نوسانات و تأخیرهای شبکه هم دقیقاً بدون نیاز به هیچ‌گونه توقف فرآیندی، همین خطر را خلق می‌کنند. ممکن است کلاینت درخواست نوشتن خود را کاملاً در مهلت معتبر اجاره ارسال کرده باشد، اما بسته در یک سوئیچ شبکه کند به دام بیفتد.[1]

در یکی از اختلالات ثبت‌شده در گیت‌هاب، بسته‌های شبکه حدود ۹۰ ثانیه در مسیر معطل شدند و سپس به مقصد رسیدند. اگر سیستمی به یک قفل معمولی با مهلت ۳۰ ثانیه تکیه می‌کرد، این بسته‌های تاریخ‌گذشته داده‌های جدیدتر را بی سروصدا نابود می‌کردند.[1]

تصویرسازی: مسئولیت نهایی حفظ یکپارچگی داده‌ها بر عهده لایه ذخیره‌سازی است، نه سرور مدیریت قفل.

برای تضمین صحت داده‌ها، لایه ذخیره‌سازی باید به عنوان عضوی فعال در پروتکل شمشیربازی سهیم شود. پایگاه‌های داده رابطه‌ای مثل پستگرس‌کیوال این کار را ساده کرده‌اند؛ کافی است ستونی برای ثبت آخرین توکن به جدول اضافه شود تا برنامه شرط آن را در عبارت به‌روزرسانی بگنجاند.[1]

اگر پرس‌وجو به صفر سطر اثر بگذارد، کلاینت بلافاصله می‌فهمد که توکنش منقضی شده و قفل از دست رفته است. با حذف متغیر غیرقابل اعتماد زمان و اتکا به توالی اعداد، توکن‌های شمشیربازی امکان دستیابی به ثبات قطعی در معماری‌های توزیع‌شده را فراهم می‌سازند.[6]

این تحلیل چگونه انجام شد

روش
مقایسه مدت پیش‌فرض اجاره قفل با رویدادهای ثبت‌شده توقف شدید سیستم به‌منظور برآورد بازه زمانی وقوع خطای دوپارگی مغز.
یافته
از آنجا که مدت زمان توقف‌های ثبت‌شده سیستم‌ها به‌لحاظ محاسباتی سه برابر فراتر از محدودیت زمانی قفل‌های رایج است، اتکای صِرف به طول عمر اجاره‌ها در زیر بار کاری ناگزیر به خرابی داده می‌انجامد و اعتبارسنجی در لایه ذخیره‌سازی را اجباری می‌کند.
داده‌هایی که بر پایهٔ آن‌ها کار کردیم
  • مدت پیش‌فرض اجاره قفل توزیع‌شده: 30 seconds — Redis
  • مدت مستندشده توقف شبکه یا پاک‌سازی حافظه: 90 seconds — Martin Kleppmann
محدودیت‌های این تحلیل
مدت توقف برحسب بستر اجرا متغیر است؛ برنامه‌های دقیق و بهینه‌سازی‌شده در زبان‌های C++ یا Rust که فاقد وقفه پاک‌سازی حافظه هستند، با ریسک کمتری مواجه‌اند که عمدتاً به نوسانات شبکه خلاصه می‌شود.

اصطلاحات کلیدی

توکن شمشیربازی (Fencing Token)
یک شماره ترتیبی اکیداً افزایشی که توسط سرویس قفل صادر می‌شود تا سیستم ذخیره‌سازی مانع از بازنویسی داده‌ها توسط پردازش‌های تاریخ‌گذشته شود.
دوپارگی مغز (Split-Brain)
وضعیتی بحرانی در سیستم‌های توزیع‌شده که در آن دو پردازش مستقل هم‌زمان خود را صاحب دسترسی انحصاری به یک داده مشترک می‌پندارند.
وقفه پاک‌سازی حافظه (GC Pause)
توقف موقت در اجرای برنامه تا بستر نرم‌افزاری بتواند حافظه اشغال‌شده را پاک‌سازی و بازیابی کند.
طول عمر مجاز (TTL)
بازه زمانی که طی آن اجاره یک قفل توزیع‌شده پیش از ابطال خودکار توسط سرور معتبر می‌ماند.
دنباله یکنواخت (Monotonic Sequence)
رشته‌ای از اعداد که همیشه صعودی است، هرگز تکرار نمی‌شود و ترتیب زمانی رویدادها را به‌طور قطعی مشخص می‌کند.

پرسش‌های متداول

چه چیزی باعث وقفه کامل فرآیند هنگام جمع‌آوری زباله حافظه می‌شود؟

موتورهای مدیریت حافظه در زبان‌هایی نظیر جاوا و گو برای حذف اشیای بلااستفاده ناچارند تمامی رشته‌های برنامه را موقتاً متوقف کنند. اگرچه این مکث معمولاً کوتاه است، اما در صورت کمبود شدید حافظه هیپ می‌تواند تا چندین دقیقه ادامه یابد.

آیا قفل پیش‌فرض ردیس برای تضمین یکپارچگی داده‌ها کافی است؟

خیر، بدون اسکریپت‌نویسی سفارشی کافی نیست. قفل معمولی ردیس تنها یک اجاره زمان‌دار است و به خودی خود شماره‌های ترتیبی اکیداً فزاینده برای دفع داده‌های تأخیری تولید نمی‌کند.

پایگاه داده چگونه متوجه نامعتبر بودن یک توکن می‌شود؟

پایگاه داده بالاترین شماره توکنی را که تاکنون پذیرفته ذخیره می‌کند. اگر درخواستی با توکنی کوچک‌تر از این مقدار ثبت‌شده برسد، سیستم درجا عملیات را لغو می‌کند.

آیا تأخیرهای شبکه هم خطای دوپارگی مغز ایجاد می‌کنند؟

بله؛ حتی اگر کلاینت هرگز متوقف نشود، گیر افتادن بسته در سوئیچ‌های شبکه می‌تواند ارسال آن را به پس از انقضای اجاره قفل موکول کرده و داده‌ها را با خطا بازنویسی کند.

بررسی عمیق دیدگاه‌ها

نظریه‌پردازان سیستم‌های توزیع‌شده

معتقدند قفل‌های متکی به زمان ذاتاً ناامن هستند و بدون شماره‌های ترتیبی اکیداً یکنواخت نمی‌توان صحت داده‌ها را تضمین کرد.

پژوهشگران این گروه، به‌ویژه مارتین کلپمن، یادآوری می‌کنند که مفهوم زمان فیزیکی در معماری‌های توزیع‌شده قابل اتکا نیست. به عقیده آنها، سامانه‌ای که برای تضمین صحت عملیات به انقضای زمان تکیه کند، دیر یا زود زیر فشار بار کاری دچار نقص ریاضی می‌شود. از این منظر، توکن‌های شمشیربازی یک آپشن اضافی نیستند، بلکه پیش‌نیازی اجباری برای هر قفلی محسوب می‌شوند که داده‌های ماندگار را مدیریت می‌کند.

عمل‌گرایان حوزه پیاده‌سازی

ریسک‌های تئوریک را قبول دارند اما استدلال می‌کنند قفل‌های ساده برای بهینه‌سازی بار پردازشی و وظایف غیربحرانی کفایت می‌کنند.

طراحان لایه‌های حافظه موقت و انباره‌های مقیم در رم غالباً دیدگاهی کاربردی به قفل‌گذاری دارند. آنها استدلال می‌کنند وقتی تنها کارکرد قفل جلوگیری از دوباره‌کاری دو پردازش در اجرای یک محاسبه سنگین—مانند ساخت گزارش روزانه—است، وقوع نادر خطای دوپارگی مغز آسیب ماندگاری در پی ندارد. در این دست سناریوهای صرفه‌جویانه، هزینه و پیچیدگی افزودن توکن‌های شمشیربازی در سمت پایگاه داده ارزش فنی ندارد.

توسعه‌دهندگان فریم‌ورک‌های اجماع

بر این باورند که سازوکار تولید اعداد ترتیبی باید به عنوان یک قابلیت پایه مستقیماً در زیرساخت تعبیه شود.

متخصصانی که روی پروتکل‌های هماهنگی مثل آپاچی زوکیپر و etcd کار می‌کنند، هدف خود را پنهان کردن این پیچیدگی‌ها از دید توسعه‌دهنده می‌دانند. این سیستم‌ها به شکلی مهندسی شده‌اند که به صورت خودکار شناسه‌های اکیداً صعودی نظیر zxid یا شماره‌های ویرایش را به ازای هر تحول صادر کنند. باور این دسته آن است که زیرساخت باید امکاناتی بی‌نقص مهیا سازد تا برنامه‌نویسان ناچار به ساخت دستی شمارنده‌های ترتیبی نباشند.

نظریه‌پردازان سیستم‌های توزیع‌شده 40%عمل‌گرایان حوزه پیاده‌سازی 30%توسعه‌دهندگان فریم‌ورک‌های اجماع 30%
نظریه‌پردازان سیستم‌های توزیع‌شده
معتقدند قفل‌های متکی به زمان ذاتاً ناامن هستند و بدون شماره‌های ترتیبی اکیداً یکنواخت نمی‌توان صحت داده‌ها را تضمین کرد.
عمل‌گرایان حوزه پیاده‌سازی
ریسک‌های تئوریک را قبول دارند اما استدلال می‌کنند قفل‌های ساده برای بهینه‌سازی بار پردازشی و وظایف غیربحرانی کفایت می‌کنند.
توسعه‌دهندگان فریم‌ورک‌های اجماع
بر این باورند که سازوکار تولید اعداد ترتیبی باید به عنوان یک قابلیت پایه مستقیماً در زیرساخت تعبیه شود.

دیدگاه‌هایی که این گزارش پوشش نداده

  • نگه‌دارندگان هسته پایگاه داده
  • توسعه‌دهندگان لایه کاربری

منابع

پوشش منابع

6 منبع

3 دیدگاه شناسایی‌شده

نظریه‌پردازان سیستم‌های توزیع‌شده 40%عمل‌گرایان حوزه پیاده‌سازی 30%توسعه‌دهندگان فریم‌ورک‌های اجماع 30%
  1. [1]Martin Kleppmannنظریه‌پردازان سیستم‌های توزیع‌شده

    How to do distributed locking

    مطالعه در Martin Kleppmann →
  2. [2]Redisعمل‌گرایان حوزه پیاده‌سازی

    Distributed Locks with Redis

    مطالعه در Redis →
  3. [3]Apache ZooKeeperتوسعه‌دهندگان فریم‌ورک‌های اجماع

    ZooKeeper Recipes and Solutions

    مطالعه در Apache ZooKeeper →
  4. [4]etcdتوسعه‌دهندگان فریم‌ورک‌های اجماع

    etcd API Reference

    مطالعه در etcd →
  5. [5]Hazelcastتوسعه‌دهندگان فریم‌ورک‌های اجماع

    Long Live Distributed Locks

    مطالعه در Hazelcast →
  6. [6]تیم سردبیری کوهستان

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان →

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.