پارامتر اپسیلون: بودجه نویز چگونه بده‌بستان بین حریم خصوصی و کارایی را در حریم خصوصی تفاضلی می‌سنجد

در ماه‌های منتهی به انتشار سرشماری ده‌ساله ۲۰۲۰ ایالات متحده، جمعیت‌شناسان و دانشمندان علوم کامپیوتر در اداره سرشماری با یک بن‌بست ریاضی مواجه شدند. بحث آن‌ها بر سر نحوه شمارش جمعیت نبود، بلکه بر سر این بود که چه مقدار نویز آماری باید عمداً به داده‌های نهایی تزریق شود. نتیجه این کشمکش، تعیین یک بودجه حریم خصوصی سراسری با اپسیلون ۱۹.۶۱ بود؛ عدد خاصی که دقیقاً نشان می‌داد دولت حاضر است چه میزان از دقت داده‌ها را فدای تضمین ناشناس ماندن شهروندانش کند.[8]

این بن‌بست به‌خوبی سازوکار اصلی حریم خصوصی تفاضلی را به تصویر می‌کشد. حریم خصوصی تفاضلی نه یک محصول نرم‌افزاری است و نه یک استاندارد رمزنگاری، بلکه تعریفی دقیق و ریاضی از ناشناس بودن است. همان‌طور که در نشریه Foundations and Trends in Theoretical Computer Science آمده است، یک الگوریتم تصادفی تنها در صورتی این تعریف را برآورده می‌کند که با اضافه یا حذف شدن اطلاعات یک فرد خاص از مجموعه داده پایه، خروجی آن تغییر معناداری نکند.[1]

برای دستیابی به این تضمین ریاضی، سیستم‌ها باید پیش از تحلیل داده‌ها، نویز آماری کالیبره‌شده‌ای را به آن‌ها تزریق کنند. اگر بیمارستانی پایگاه داده را برای یافتن تعداد بیماران مبتلا به یک عارضه خاص جستجو کند، الگوریتم ممکن است به جای عدد واقعی ۱۰۰، عدد نویزدار ۱۰۵ را برگرداند. این تصادفی بودن، حضور یا عدم حضور هر بیمار خاصی را پنهان می‌کند و مانع از آن می‌شود که مهاجمان سایبری بتوانند مجموعه داده را مهندسی معکوس کنند.[5]

شدت این نویز تزریقی توسط یک پارامتر واحد به نام اپسیلون کنترل می‌شود که اغلب از آن با عنوان «بودجه حریم خصوصی» یاد می‌کنند. مقدار پایین اپسیلون به معنای تزریق نویز سنگین است؛ این کار ناشناس ماندن قوی را تضمین می‌کند، اما در عین حال داده‌های به‌دست‌آمده را برای تحلیلگران به‌شدت بی‌دقت می‌سازد.[2]

در نقطه مقابل، مقدار بالای اپسیلون میزان نویز را کاهش می‌دهد. این کار کارایی مجموعه داده را برای آموزش مدل‌های یادگیری ماشین و استخراج روندهای جمعیتی حفظ می‌کند، اما تضمین حریم خصوصی افرادی را که در پایگاه داده هستند، به‌طور تصاعدی تضعیف می‌کند. در اپسیلون بی‌نهایت، داده‌ها کاملاً خام و بدون محافظت خواهند بود.[6]

شرکت‌های فناوری اغلب حریم خصوصی تفاضلی را به‌عنوان یک راه‌حل قطعی و بدون نقص در برابر ردیابی کاربران تبلیغ می‌کنند. با این حال، این نوع بازاریابی معمولاً مقادیر دقیق اپسیلونِ استفاده‌شده در محیط‌های عملیاتی را پنهان می‌کند. اپسیلون ۱.۰ یا ۲.۰ محافظت قدرتمندی ارائه می‌دهد، در حالی که اپسیلون ۱۴ یا بالاتر (مقادیری که گاهی در تله‌متری تجاری گوشی‌های هوشمند استفاده می‌شود) تضمینی از حریم خصوصی ارائه می‌دهد که بیشتر شبیه به یک نمایش ریاضی است تا محافظت واقعی.[8]

موسسه بروکینگز خاطرنشان می‌کند که حریم خصوصی تفاضلی به پژوهشگران اجازه می‌دهد تا ضمن حفظ حریم خصوصی، از کلان‌داده‌ها بهره‌برداری کنند، اما تنها در صورتی که پارامترها به‌درستی تنظیم شده باشند. چالش اساسی برای صنعت فناوری در این واقعیت نهفته است که هیچ استاندارد جهانی برای تعیین یک اپسیلون قابل‌قبول وجود ندارد.[4]

بنابراین، انتخاب مقدار اپسیلون بیش از آنکه یک مسئله صرفاً فنی باشد، یک محاسبه اقتصادی و اخلاقی است. پژوهشی که توسط IEEE منتشر شده، انتخاب اپسیلون را به‌عنوان یک روش اقتصادی مدل‌سازی می‌کند که سازمان‌ها را ملزم می‌سازد تا مسئولیت مالی ناشی از نشت احتمالی داده‌ها را در برابر درآمد ازدست‌رفته ناشی از تحلیل‌های نادرست بسنجند.[7]

رابطه ریاضی بین کارایی و نشت اطلاعات کاملاً مطلق است. بر اساس تحلیلی که در ژوئن ۲۰۲۰ در Proceedings of Machine Learning Research منتشر شد، نرخ خطا در یک پرس‌وجوی مبتنی بر حریم خصوصی تفاضلی، رابطه معکوسی با اپسیلون دارد. اگرچه مقالات پایه آکادمیک و گزارش موسسه بروکینگز نقل‌قول مستقیمی از مهندسانی که این بودجه‌ها را تعیین می‌کنند ارائه نمی‌دهند، اما اجماع ریاضی روشن است: استخراج بینش‌های بسیار دقیق از مجموعه داده‌های کوچک، بدون به خطر انداختن حریم خصوصی، از نظر ریاضی غیرممکن است.[3][4]

برای مدیریت این بده‌بستان اجتناب‌ناپذیر، سازمان‌ها به‌طور فزاینده‌ای در حال اتخاذ یک رویکرد بودجه‌بندی سخت‌گیرانه هستند. همان‌طور که PrivaSapien به‌تفصیل شرح داده است، دانشمندان داده باید کسری از کل بودجه اپسیلون خود را به پرس‌وجوهای مختلف اختصاص دهند. اگر سیستمی دارای بودجه اپسیلون کل ۵.۰ باشد، یک پژوهشگر ممکن است ۲.۰ را صرف پرس‌وجوهای جمعیتی و ۳.۰ را صرف توزیع جغرافیایی کند تا اطمینان حاصل شود که افت تجمعی حریم خصوصی از آستانه قابل‌قبول فراتر نمی‌رود.[6]

زمانی که بودجه حریم خصوصی کاملاً تمام شود، سیستم باید قفل شده و از پاسخ به پرس‌وجوهای بیشتر خودداری کند، در غیر این صورت خطر نشت اطلاعات هویتی وجود خواهد داشت. این محدودیت سخت‌گیرانه توضیح می‌دهد که چرا بسیاری از توسعه‌دهندگان هوش مصنوعی متن‌باز، پیاده‌سازی حریم خصوصی تفاضلی را در مقیاس وسیع دشوار می‌دانند؛ این روش اساساً محدود می‌کند که یک مجموعه داده پیش از آنکه کنار گذاشته شود، چند بار می‌تواند مفید واقع شود.[5]

اکنون بحث بر سر اپسیلون از علوم کامپیوتر آکادمیک به سمت انطباق با مقررات در حال تغییر است. در شرایطی که چارچوب‌های جهانی حریم خصوصی خواستار به حداقل رساندن سخت‌گیرانه داده‌ها هستند، نقطه عطف نظارتی بعدی این خواهد بود که آیا مقامات حفاظت از داده‌ها شروع به تعریف حداکثر مقادیر قانونی اپسیلون می‌کنند یا خیر؛ اقدامی که شرکت‌ها را مجبور می‌کند ثابت کنند ناشناس‌سازی آن‌ها به جای یک ادعای بازاریابی، از نظر ریاضی معتبر است.[8]