بسته شواهد: چگونه حریم خصوصی افتراقی از نویز آماری برای محافظت از داده‌های فردی استفاده می‌کند

تناقض تحلیل داده‌های مدرن در یک تنش اساسی نهفته است: جامعه برای آموزش هوش مصنوعی، ردیابی روندهای بهداشت عمومی و تخصیص نمایندگی دولتی به مجموعه‌داده‌های عظیمی نیاز دارد، اما انتشار آن داده‌ها خطر افشای جزئیات خصوصی زندگی افراد را در پی دارد. برای دهه‌ها، راه‌حل استاندارد «ناشناس‌سازی» بود – حذف نام‌ها، آدرس‌ها و شماره‌های تأمین اجتماعی از مجموعه‌داده‌ها قبل از انتشار آنها.

با این حال، با رشد قدرت محاسباتی و حجم انبوه داده‌های موجود، محققان بارها نشان دادند که داده‌های ناشناس‌سازی شده می‌توانند به راحتی مهندسی معکوس شوند. مهاجمان با مقایسه یک مجموعه‌داده ناشناس‌سازی شده با سایر سوابق عمومی، می‌توانستند «حملات بازسازی» را برای شناسایی مجدد افراد خاص انجام دهند و ناشناس‌سازی سنتی را منسوخ سازند.

راه‌حل این آسیب‌پذیری در سال ۲۰۰۶ با توسعه «حریم خصوصی افتراقی» پدیدار شد، یک چارچوب ریاضی دقیق که از آن زمان به معیار طلایی برای حفاظت از داده‌ها تبدیل شده است. حریم خصوصی افتراقی به جای تکیه بر حذف شناسه‌های خاص، یک تضمین رسمی و قابل اندازه‌گیری ارائه می‌دهد که خروجی هر تحلیل آماری، اساساً یکسان باقی می‌ماند، چه داده‌های یک فرد خاص در مجموعه‌داده زیربنایی گنجانده شده باشد یا خیر.

این امر به تحلیلگران اجازه می‌دهد تا برای استخراج بینش‌های کلی در سطح جمعیت، از پایگاه داده پرس‌وجو کنند، بدون اینکه هرگز بتوانند رکورد یک شخص خاص را جدا یا افشا کنند.[3]

مکانیسم پشت حریم خصوصی افتراقی بر تزریق عمدی نویز آماری متکی است. یک الگوریتم حریم خصوصی افتراقی به جای بازگرداندن پاسخ دقیق به یک پرس‌وجو، مقدار تصادفی‌سازی را که با دقت کالیبره شده است – اغلب از توزیع احتمال لاپلاس یا نمایی – وارد می‌کند.

به عنوان مثال، اگر یک پرس‌وجو تعداد افراد در یک گروه جمعیتی خاص را بخواهد، سیستم ممکن است به جای تعداد واقعی ۴۰، عدد ۴۲ را برگرداند. در طول میلیون‌ها پرس‌وجو و مجموعه‌داده‌های عظیم، این نویز تزریق شده به طور متوسط خنثی می‌شود، حقیقت آماری کلی داده‌ها را حفظ می‌کند، در حالی که مقادیر دقیق نقاط داده فردی را به طور مؤثر پنهان می‌سازد.[3]

با این حال، حریم خصوصی افتراقی یک سوئیچ دوتایی نیست؛ بلکه به عنوان یک مقیاس کشویی عمل می‌کند که توسط یک پارامتر ریاضی حیاتی به نام اپسیلون (ε) یا «بودجه از دست دادن حریم خصوصی» کنترل می‌شود. اپسیلون حداکثر ریسک قابل قبول حریم خصوصی را برای یک مجموعه‌داده معین کمی‌سازی می‌کند.

مقدار اپسیلون کمتر حکم می‌کند که نویز بیشتری به داده‌ها تزریق شود، که یک تضمین حریم خصوصی آهنین را فراهم می‌کند اما آمار حاصل را کمتر دقیق می‌سازد. برعکس، مقدار اپسیلون بالاتر نویز کمتری تزریق می‌کند، که داده‌های بسیار دقیق و مفیدی را به دست می‌دهد اما سپر حریم خصوصی ریاضی را به طور قابل توجهی تضعیف می‌کند.

این پویایی یک شکاف آشکار بین حریم خصوصی نظری و پیاده‌سازی در دنیای واقعی ایجاد می‌کند. در علوم کامپیوتر نظری و رمزنگاری، محققان عموماً موافقند که مقدار اپسیلون ۱٫۰ یا کمتر برای ارائه حفاظت قوی و معنادار در برابر حملات بازسازی مورد نیاز است.

با این حال، از آنجایی که شرکت‌های بزرگ فناوری و آژانس‌های دولتی حریم خصوصی افتراقی را برای برآورده کردن فشارهای نظارتی حریم خصوصی و الزامات داده‌های عملیاتی خود پذیرفته‌اند، مقادیر اپسیلون پیکربندی شده به آرامی افزایش یافته و به طور قابل توجهی از معیار سخت‌گیرانه آکادمیک فاصله گرفته‌اند.[3]

اپل، که استفاده خود از حریم خصوصی افتراقی محلی را برای ویژگی‌هایی مانند پیشنهادات ایموجی، تایپ پیش‌بینی‌کننده و سنجش از راه دور سافاری به طور برجسته تبلیغ می‌کند، بودجه‌های حریم خصوصی روزانه خود را با مقادیر اپسیلون در محدوده ۲ برای داده‌های سلامت تا ۱۶ برای تحلیل‌های گسترده‌تر سیستم عامل پیکربندی می‌کند.

به طور مشابه، گوگل از اپسیلون ۲٫۶۴ برای گزارش‌های تحرک جامعه خود در طول همه‌گیری استفاده کرد. از آنجایی که اپسیلون در مقیاس نمایی عمل می‌کند، اپسیلون ۱۴ یک تضمین حریم خصوصی ریاضی کاملاً متفاوت از استاندارد آکادمیک ۱ را نشان می‌دهد و بیشتر به عنوان ابزاری برای کاهش ریسک عمل می‌کند تا یک سپر مطلق.[2]

مهم‌ترین و مورد بررسی‌ترین پیاده‌سازی حریم خصوصی افتراقی تا به امروز، سرشماری ده ساله ۲۰۲۰ اداره سرشماری ایالات متحده است. این اداره با درک اینکه محاسبات مدرن تکنیک‌های سنتی تبادل داده را ناامن کرده است، یک الگوریتم حریم خصوصی افتراقی به نام TopDown را برای محافظت از هویت صدها میلیون آمریکایی به کار گرفت. برای انتشار داده‌های حیاتی تقسیم‌بندی مجدد، اداره در نهایت یک اپسیلون جهانی ۱۹٫۶۱ تعیین کرد که به ۱۷٫۱۴ برای داده‌های سطح فرد و ۲٫۴۷ برای واحدهای مسکونی تقسیم شد.[1]

اپسیلون غیرمعمول بالای اداره سرشماری، پاسخی مستقیم به «مبادله حریم خصوصی-سودمندی» ذاتی بود. آزمایش‌های اولیه با استفاده از مقادیر اپسیلون پایین، نویز آماری زیادی را وارد کردند که شمارش جمعیت برای مناطق روستایی و زیرگروه‌های اقلیت به شدت تحریف شد. از آنجایی که داده‌های سرشماری توزیع بودجه فدرال و نمایندگی سیاسی را تعیین می‌کند، جمعیت‌شناسان و سیاست‌گذاران استدلال کردند که نویز بیش از حد به طور فعال به جوامع به حاشیه رانده شده آسیب می‌رساند.

با افزایش اپسیلون به ۱۹٫۶۱، اداره سودمندی و دقت داده‌ها را در اولویت قرار داد، اگرچه منتقدان خاطرنشان کردند که این امر تضمین حریم خصوصی ریاضی دقیقی را که حریم خصوصی افتراقی در اصل برای ارائه آن طراحی شده بود، تضعیف کرد.[1][3]

پیچیدگی دیگر در مدیریت حریم خصوصی افتراقی، مفهوم «ترکیب» یا اتمام بودجه حریم خصوصی است. هر بار که از یک مجموعه‌داده پرس‌وجو می‌شود، بخشی از بودجه اپسیلون به طور دائم مصرف می‌شود. اگر تحلیلگران پرس‌وجوهای زیادی را در برابر یک پایگاه داده اجرا کنند، اپسیلون تجمعی رشد می‌کند و نویز تزریق شده دیگر برای پنهان کردن رکوردهای فردی کافی نیست.

این واقعیت ریاضی سازمان‌ها را مجبور می‌کند که به شدت سهمیه‌بندی کنند که چند سؤال را می‌توان از یک مجموعه‌داده پرسید قبل از اینکه باید برای همیشه قفل شود، که اساساً نحوه رویکرد دانشمندان داده به تحقیقات اکتشافی را تغییر می‌دهد.[3]

با وجود اصطکاک مداوم بر سر مقادیر اپسیلون و اتمام بودجه، حریم خصوصی افتراقی یک تغییر پارادایم دائمی در زمینه تحلیل داده‌ها را نشان می‌دهد. این امر سازمان‌ها را مجبور می‌کند تا ریسک‌های حریم خصوصی خود را به طور عمومی کمی‌سازی کنند، به جای تکیه بر آسایش دروغین تکنیک‌های سنتی حذف هویت که به راحتی می‌توانند شکسته شوند.

این بحث با موفقیت از توهم ناشناس بودن کامل عبور کرده و به سمت یک مذاکره شفاف و ریاضی در مورد اینکه جامعه دقیقاً چقدر نویز آماری را در ازای حقیقت تجربی تحمل خواهد کرد، تغییر یافته است.[3]