شواهد پشت داده‌های ترکیبی: آیا مجموعه‌ داده‌های تولید شده توسط هوش مصنوعی می‌توانند جایگزین داده‌های واقعی انسانی شوند؟

برای دهه‌ها، دانشمندان داده با یک انتخاب ریاضیاتی غیرممکن روبرو بوده‌اند. آن‌ها می‌توانند از داده‌های واقعی و بسیار دقیق برای آموزش الگوریتم‌ها استفاده کنند، که در صورت نشت داده‌ها، خطر نقض فاجعه‌بار حریم خصوصی را به همراه دارد. یا می‌توانند از داده‌های به شدت ناشناس‌سازی شده استفاده کنند—که سنین را حذف، مکان‌ها را مبهم و درآمدها را تجمیع می‌کند—که حریم خصوصی را حفظ می‌کند اما کارایی آماری مجموعه داده را از بین می‌برد. تنش بین حریم خصوصی و کارایی مدت‌هاست که یک بازی با حاصل جمع صفر تلقی می‌شود و محققان را مجبور می‌کند بین محافظت از افراد و کشف بینش‌های دقیق، یکی را انتخاب کنند.

داده‌های ترکیبی یک راه گریز ریاضیاتی تقریباً کامل را پیشنهاد می‌کنند. به جای پنهان کردن افراد واقعی، الگوریتم‌ها مجموعه‌ داده‌های کاملاً جعلی تولید می‌کنند که خواص آماری، همبستگی‌ها و توزیع‌های دقیق جمعیت اصلی را تقلید می‌کنند. یک پایگاه داده پزشکی ترکیبی هیچ بیمار واقعی ندارد، به این معنی که از لحاظ نظری نمی‌تواند قوانین حریم خصوصی را نقض کند، با این حال مدل‌های تشخیصی را به همان اندازه مؤثر آموزش می‌دهد. اما در حالی که سازمان‌ها برای پذیرش این راه‌حل عجله دارند، شواهد تجربی واقعیت پیچیده‌تری را در مورد آنچه این الگوریتم‌ها واقعاً به خاطر می‌سپارند، آشکار می‌کند.

سازوکار پشت داده‌های ترکیبی مدرن متکی بر هوش مصنوعی مولد است، عمدتاً شبکه‌های مولد رقابتی (GANs) و مدل‌های انتشار (Diffusion Models). در یک شبکه GAN، یک شبکه عصبی ردیف‌های جعلی داده، مانند یک رکورد بیمار ترکیبی، تولید می‌کند، در حالی که شبکه دوم تلاش می‌کند ردیف‌های جعلی را از داده‌های آموزشی واقعی تشخیص دهد. آن‌ها به صورت تکراری با هم رقابت می‌کنند تا زمانی که مولد داده‌هایی با دقت آماری تولید کند که تمیزدهنده دیگر نتواند تفاوتی قائل شود، و در نتیجه مجموعه‌ داده‌ای ایجاد می‌شود که دقیقاً شبیه داده‌های اصلی به نظر می‌رسد و رفتار می‌کند.

ادعای ۱: داده‌های ترکیبی در حفظ کارایی آماری به طور چشمگیری بهتر از ناشناس‌سازی سنتی عمل می‌کنند. استدلال اصلی برای داده‌های ترکیبی این است که تکنیک‌های پوشش‌دهی سنتی، همبستگی‌های ظریف و چند متغیره را که داده‌ها را برای یادگیری ماشین مفید می‌سازد، از بین می‌برند. اگر یک مجموعه‌ داده را به اندازه‌ای مبهم کنید که حریم خصوصی تضمین شود، اغلب همان سیگنال‌هایی را که قصد مطالعه‌شان را دارید، پاک می‌کنید و داده‌ها را برای مدل‌سازی پیش‌بینی پیچیده بی‌فایده می‌سازید.

شواهد مؤسسه ملی استانداردها و فناوری (NIST) این ادعا را تأیید می‌کند. در ارزیابی روش‌های تولید داده، تکنیک‌های ناشناس‌سازی سنتی هنگام استفاده برای آموزش مدل‌های پیش‌بینی، میانگین امتیاز کارایی آماری تنها ۵۸٪ را حفظ کردند. در مقابل، معماری‌های مولد مدرن به طور معمول امتیازات حفظ کارایی بالای ۸۰٪ را کسب می‌کنند و به محققان اجازه می‌دهند مدل‌های بسیار دقیقی را بدون دست زدن به داده‌های خام بسازند.

ادعای ۲: بده‌بستان حریم خصوصی-کارایی اجتناب‌ناپذیر است و داده‌های ترکیبی با دقت بالا ذاتاً خطر حفظ دقیق رکورد را به همراه دارند. وعده اصلی داده‌های ترکیبی این است که هیچ فرد واقعی در آن وجود ندارد. با این حال، شواهد آماری نشان می‌دهد که سوق دادن یک مدل مولد برای دستیابی به حداکثر دقت، آن را مجبور می‌کند که داده‌های پرت (Outliers) را به خاطر بسپارد، که مستقیماً با فرض حریم خصوصی مطلق در تضاد است.

هنگامی که یک مجموعه‌ داده شامل افراد بسیار منحصر به فردی باشد—مانند بیماری با ترکیب نادری از سن، تشخیص و موقعیت جغرافیایی—یک مدل مولد که تلاش می‌کند توزیع مجموعه‌ داده را به طور کامل ترسیم کند، اغلب آن فرد دقیق را بازسازی خواهد کرد. محققانی که تولید داده‌های ترکیبی جدولی را ارزیابی کردند، دریافتند که در حالی که مدل‌های انتشار می‌توانند به دقت استثنایی دست یابند، نرخ نشت قابل اندازه‌گیری تطابق دقیق را نشان می‌دهند، به این معنی که افراد واقعی به طور تصادفی در داده‌های جعلی چاپ می‌شوند.[2][4]

با نرمال‌سازی و مقایسه نرخ‌های نشت حریم خصوصی در برابر امتیازات کارایی آماری در معماری‌های پیشرو، یک الگوی واضح پدیدار می‌شود. در حالی که معماری‌های مولد مدرن به طور متوسط ۲۴ واحد درصد در کارایی آماری بهتر از ناشناس‌سازی سنتی عمل می‌کنند، یک خطر حریم خصوصی غیرخطی را معرفی می‌کنند. مدل‌هایی که بالاترین امتیازات دقت را کسب می‌کنند، از نظر ریاضی مجبورند تقریباً ۴٪ از ردیف‌های آموزشی اصلی را دقیقاً به خاطر بسپارند و بازتولید کنند، که وعده اصلی حریم خصوصی ترکیبی را زیر پا می‌گذارد.[2][4][5]

این سازوکار حفظ داده به طور نامتناسبی بر جمعیت‌های به حاشیه رانده شده یا منحصر به فرد تأثیر می‌گذارد. اگر یک مجموعه‌ داده ترکیبی از جمعیتی تولید شود که تنها سه نفر دارای مجموعه ویژگی‌های خاصی هستند، الگوریتم نمی‌تواند به راحتی آن‌ها را تعمیم دهد. یا آن‌ها را به طور کامل نادیده می‌گیرد—و از داده‌های ترکیبی حذف می‌کند—یا آن‌ها را به خاطر می‌سپارد، رکوردهای دقیق آن‌ها را در خروجی افشا می‌کند و گروه‌های اقلیت را به طور منحصر به فردی در برابر بازشناسایی آسیب‌پذیر می‌سازد.[3]

ادعای ۳: استفاده بازگشتی از داده‌های ترکیبی باعث فروپاشی برگشت‌ناپذیر مدل می‌شود. با پر شدن اینترنت از محتوای تولید شده توسط هوش مصنوعی، توسعه‌دهندگان به طور فزاینده‌ای مجبور می‌شوند مدل‌های جدید هوش مصنوعی را بر روی داده‌های تولید شده توسط مدل‌های قدیمی‌تر هوش مصنوعی آموزش دهند. شواهد نشان می‌دهد که این امر یک حلقه بازخورد ریاضیاتی تباه‌کننده ایجاد می‌کند که به آرامی اطلاعات زیربنایی را از بین می‌برد.

یک مقاله بنیادی در سال ۲۰۲۴ که در نشریه نیچر (Nature) منتشر شد، نشان داد که مدل‌های هوش مصنوعی هنگام آموزش بر روی داده‌های تولید شده به صورت بازگشتی، دچار فروپاشی می‌شوند. از آنجا که مدل‌های مولد نتایج محتمل‌تر را در اولویت قرار می‌دهند و بخش‌های انتهایی توزیع (tails) را صاف می‌کنند، هر نسل از داده‌های ترکیبی بخشی از واریانس اصلی خود را از دست می‌دهد. مدل‌ها به طور فزاینده‌ای در یک محدوده باریک‌تر و باریک‌تر از واقعیت مطمئن می‌شوند.[1]

تا نسل پنجم یا ششم آموزش یک هوش مصنوعی بر روی خروجی‌های ترکیبی، مدل نقاط داده کمتر رایج را به طور کامل فراموش می‌کند. تا نسل نهم، واریانس خروجی تقریباً به صفر می‌رسد، که منجر به مدلی می‌شود که نتایج بسیار یکنواخت، تکراری و اغلب بی‌معنی تولید می‌کند. محققان این پدیده را فروپاشی مدل نامیدند و ثابت کردند که داده‌های ترکیبی نمی‌توانند به طور کامل جایگزین نیاز به داده‌های تازه و تولید شده توسط انسان شوند.[1]

ادعای ۴: داده‌های ترکیبی در صورت عدم اصلاح صریح در طول تولید، سوگیری‌های موجود را تقویت می‌کنند. از آنجا که داده‌های ترکیبی کاملاً نماینده داده‌های آموزشی خود هستند، سوگیری‌های تاریخی را با وفاداری بازتولید می‌کنند. اگر یک مجموعه‌ داده پزشکی واقعی، زنان را در آزمایش‌های قلبی-عروقی کمتر نشان دهد، نسخه ترکیبی همان کم‌نمایی را به صورت ریاضیاتی کدگذاری می‌کند و آن را به هر هوش مصنوعی بعدی منتقل می‌سازد.

تحقیقات مؤسسه هوش مصنوعی انسان‌محور استنفورد محدودیت‌های داده‌های ترکیبی در مراقبت‌های بهداشتی را برجسته می‌کند. در حالی که توسعه‌دهندگان می‌توانند از لحاظ نظری پارامترهای تولید را دستکاری کنند تا به طور مصنوعی نمایش گروه‌های اقلیت را افزایش دهند، انجام این کار مستلزم تزریق مفروضاتی است که ممکن است واقعیت بیولوژیکی یا جامعه‌شناختی را منعکس نکند، و به طور بالقوه منجر به الگوریتم‌های پزشکی خطرناکی می‌شود که عادلانه به نظر می‌رسند اما عملکرد ضعیفی دارند.[3]

در نهایت، بسته شواهد نشان می‌دهد که داده‌های ترکیبی یک راه‌حل جادویی برای بده‌بستان حریم خصوصی-کارایی نیستند، بلکه تخصیص مجدد پیچیده‌ای از ریسک هستند. این داده‌ها کارایی بی‌سابقه‌ای برای اشتراک‌گذاری داده و آموزش مدل ارائه می‌دهند، اما نیازمند ممیزی ریاضیاتی دقیق هستند تا اطمینان حاصل شود که صرفاً آسیب‌پذیرترین افراد در مجموعه‌ داده اصلی را به خاطر نسپرده‌اند، یا واریانس مورد نیاز برای هوش مصنوعی قوی را به آرامی تخریب نکرده‌اند.[5]