سازوکار حریم خصوصی افتراقی: غول‌های فناوری چگونه داده‌ها را «واقعاً» ناشناس می‌کنند و محدودیت‌های اپسیلون

هر بار که پیامی تایپ می‌کنید، رستورانی را جستجو می‌کنید یا تمرین ورزشی خود را ثبت می‌کنید، دستگاه داخل جیب شما در حال تولید داده‌های بسیار حساس است. شرکت‌های فناوری به طور معمول به کاربران اطمینان می‌دهند که این اطلاعات پیش از تحلیل «ناشناس» می‌شوند، که این امر وضعیتی صفر و یکی را القا می‌کند: یا داده به هویت شما گره خورده است یا کاملاً از آن جدا شده است.

اما در عصر مجموعه‌داده‌های عظیم و یادگیری ماشینی، اگر قرار باشد داده‌ها همچنان مفید باشند، ناشناس بودن واقعی از نظر ریاضی غیرممکن است. در عوض، آنچه از مصرف‌کننده دیجیتال مدرن محافظت می‌کند، یک چارچوب ریاضیاتی است که حریم خصوصی را نه یک سپر، بلکه یک درجه قابل تنظیم و دقیق می‌داند. نام این چارچوب «حریم خصوصی افتراقی» است.[4]

برای درک اینکه حریم خصوصی افتراقی واقعاً چه کاری انجام می‌دهد، ابتدا باید فهمید که چرا روش‌های سنتی ناشناس‌سازی شکست خوردند. برای دهه‌ها، سازمان‌ها بر این باور بودند که حذف صرف نام‌ها، شماره‌های تأمین اجتماعی و آدرس‌های دقیق از یک مجموعه‌داده برای محافظت از افراد کافی است. این فرآیند، که به «حذف هویت» (de-identification) معروف است، هنوز هم در بخش‌های بهداشت و مالی به طور گسترده‌ای استفاده می‌شود. با این حال، محققان بارها نشان داده‌اند که مجموعه‌داده‌های «ناشناس» در برابر حملات پیوند پایگاه داده بسیار آسیب‌پذیر هستند.[3]

اگر یک مهاجم به یک پایگاه داده پزشکی ناشناس‌شده و یک لیست عمومی ثبت‌نام رأی‌دهندگان دسترسی داشته باشد، اغلب می‌تواند نقاط داده‌ای به ظاهر بی‌ضرر—مانند کد پستی، تاریخ تولد و جنسیت—را با هم مقایسه کند تا افراد خاص را با دقت نگران‌کننده‌ای مجدداً شناسایی کند. اکنون مؤسسه ملی استانداردها و فناوری (NIST) اذعان دارد که حذف هویت، حفاظت قوی از حریم خصوصی را فراهم نمی‌کند، زیرا فرض می‌کند که نگهدارنده داده می‌تواند هر قطعه اطلاعات خارجی را که ممکن است مهاجم در اختیار داشته باشد، پیش‌بینی کند.[3]

حریم خصوصی افتراقی دقیقاً برای حل این آسیب‌پذیری توسعه یافت. این مفهوم که اولین بار در سال ۲۰۰۶ رسمی شد، نه یک ابزار نرم‌افزاری خاص است و نه یک الگوریتم اختصاصی. بلکه، یک تعریف ریاضیاتی دقیق از معنای حریم خصوصی است. وعده اصلی حریم خصوصی افتراقی این است که نتیجه هر تحلیل داده‌ای تقریباً یکسان خواهد بود، چه داده‌های یک فرد خاص در مجموعه داده گنجانده شده باشد و چه نباشد.[1]

سازوکاری که از طریق آن این امر محقق می‌شود، تزریق نویز آماری است. به جای جمع‌آوری صرف داده‌های خام و حذف نام‌ها، یک سیستم دارای حریم خصوصی افتراقی عمداً داده‌ها را با افزودن مقدار محاسبه‌شده‌ای از تصادفی بودن تغییر می‌دهد. اگر محققی از پایگاه داده‌ای برای یافتن میانگین سنی گروهی از کاربران پرس‌وجو کند، سیستم میانگین دقیق را برنمی‌گرداند. بلکه میانگین را به اضافه یا منهای یک متغیر تصادفی بازمی‌گرداند.[1][4]

این نویز با دقت کالیبره می‌شود. باید به اندازه‌ای بزرگ باشد که سهم هر فرد خاص را پنهان کند و تضمین کند که یک مهاجم نمی‌تواند با مهندسی معکوس مجموعه داده، متوجه شود که آیا فرد خاصی در آن گنجانده شده است یا خیر.

با این حال، باید به اندازه‌ای کوچک باشد که روند آماری کلی دقیق باقی بماند. هنگامی که هزاران یا میلیون‌ها نقطه داده تجمیع می‌شوند، نویز تزریق‌شده خودبه‌خود خنثی می‌شود و به الگوی واقعی اجازه می‌دهد تا ظاهر شود، در حالی که نقاط داده فردی مبهم باقی می‌مانند.[2][4]

در عمل، دو معماری اصلی برای استقرار این چارچوب وجود دارد: جهانی و محلی. در مدل حریم خصوصی افتراقی جهانی، داده‌های خام جمع‌آوری شده و توسط یک متولی مورد اعتماد، مانند اداره سرشماری دولتی، در یک پایگاه داده مرکزی ذخیره می‌شوند. نویز تنها زمانی اضافه می‌شود که محققی از پایگاه داده پرس‌وجو کند. این رویکرد مستلزم آن است که کاربران به مرجع مرکزی برای حفظ امنیت داده‌های خام اعتماد کنند.[3][4]

با این حال، شرکت‌های فناوری تجاری اغلب حریم خصوصی افتراقی محلی را ترجیح می‌دهند. در این مدل، نویز مستقیماً روی دستگاه کاربر تزریق می‌شود، پیش از آنکه داده‌ها به سرورهای شرکت منتقل شوند. به عنوان مثال، شرکت اپل از حریم خصوصی افتراقی محلی برای شناسایی روندهای استفاده از ایموجی، کشف کلمات جدید برای متن پیش‌بینی‌کننده و یافتن وب‌سایت‌های مشکل‌ساز که باتری را خالی می‌کنند، استفاده می‌کند. از آنجایی که داده‌ها قبل از خروج از تلفن هوشمند مخدوش می‌شوند، سرورهای شرکت فقط اطلاعات تصادفی‌شده را دریافت می‌کنند.[2]

این به نظر یک راه‌حل عالی می‌آید، اما واقعیت حریم خصوصی افتراقی کاملاً به یک پارامتر ریاضیاتی واحد به نام اپسیلون (ε) وابسته است. اپسیلون نشان‌دهنده «بودجه حریم خصوصی» یا حداکثر میزان مجاز از دست دادن حریم خصوصی است. این پارامتر دقیقاً تعیین می‌کند که چه مقدار نویز به سیستم تزریق شود و نقطه اتکایی است که کل چارچوب بر آن تکیه دارد.[1]

رابطه بین اپسیلون و حریم خصوصی معکوس است. مقدار اپسیلون پایین‌تر به معنای تزریق نویز بیشتر، ارائه تضمین‌های قوی‌تر حریم خصوصی، اما در نتیجه داده‌های کمتر دقیق است. مقدار اپسیلون بالاتر به معنای تزریق نویز کمتر، تولید داده‌های بسیار دقیق، اما ارائه حفاظت‌های ضعیف‌تر حریم خصوصی است. اگر اپسیلون بیش از حد بالا تنظیم شود، تضمین ریاضیاتی حریم خصوصی افتراقی عملاً بی‌معنی می‌شود، زیرا نویز برای پنهان کردن سهم افراد کافی نیست.[4]

اینجاست که زبان بازاریابی شرکت‌های فناوری اغلب از واقعیت ریاضیاتی فاصله می‌گیرد. وقتی شرکتی اعلام می‌کند که از حریم خصوصی افتراقی استفاده می‌کند، ادعای یک قابلیت را دارد، اما بدون افشای مقدار اپسیلون، دانستن اینکه واقعاً چه مقدار حریم خصوصی ارائه می‌شود، غیرممکن است. این چارچوب به شرکت‌ها اجازه می‌دهد تا به طور قانونی و فنی ادعا کنند که داده‌ها را ناشناس می‌کنند، حتی اگر درجه حریم خصوصی به نفع سودمندی داده‌ها پایین آورده شده باشد.[4]

محققان و مدافعان حریم خصوصی به طور فزاینده‌ای خواستار شفافیت در مورد این بودجه‌های حریم خصوصی شده‌اند. پیشنهاداتی مانند «ثبت اپسیلون» (Epsilon Registry) با هدف ایجاد یک مخزن عمومی است که در آن سازمان‌ها باید مقادیر اپسیلونی را که در پیاده‌سازی‌های خود استفاده می‌کنند، اعلام کنند. این امر به دانشگاهیان مستقل اجازه می‌دهد تا تأیید کنند که آیا سیستم حریم خصوصی افتراقی یک شرکت واقعاً از کاربران محافظت می‌کند یا صرفاً پوششی از انطباق را فراهم می‌سازد.

علاوه بر این، مفهوم بودجه حریم خصوصی به این معناست که حریم خصوصی یک منبع محدود است. هر بار که پرس‌وجویی علیه یک پایگاه داده دارای حریم خصوصی افتراقی انجام می‌شود، کسری از بودجه حریم خصوصی مصرف می‌شود. از طریق اصلی که به «ترکیب» (composition) معروف است، خطر شناسایی مجدد با تحلیل‌های متعدد انباشته می‌شود. اگر یک مهاجم به اندازه کافی سؤال بپرسد، در نهایت می‌تواند نویز را فیلتر کرده و سیگنال اصلی را جدا کند.[1][4]

برای کاهش این خطر، سیستم‌ها باید یا تعداد پرس‌وجوهایی که می‌توانند انجام دهند را به شدت محدود کنند یا به طور مداوم مقادیر عظیمی از داده‌های تازه را تزریق کنند تا ریسک رقیق شود. برای غول‌های فناوری با میلیاردها دستگاه فعال، حجم محض داده‌های ورودی به عنوان یک سپر ثانویه عمل می‌کند و به آن‌ها اجازه می‌دهد حتی هنگام اعمال نویز دقیق، سودمندی داده‌ها را حفظ کنند.[2][4]

در نهایت، حریم خصوصی افتراقی یک جهش بزرگ رو به جلو نسبت به تکنیک‌های ناقص حذف هویت در گذشته است. این چارچوب راهی از نظر ریاضی اثبات‌پذیر برای استخراج ارزش اجتماعی از داده‌ها بدون قربانی کردن ذاتی فرد فراهم می‌کند. با این حال، مستلزم تغییر در نحوه درک عموم از ناشناس بودن دیجیتال است. حریم خصوصی دیگر یک در قفل شده نیست؛ بلکه یک معادله ریاضیاتی است و متغیرهای آن در دست صنعت فناوری قرار دارد.[3][4]