محدودیت‌های ساختاری تشخیص دیپ‌فیک و گذار به اصالت‌سنجی رمزنگاری‌شده

سیاست‌گذاران و شرکت‌های هوش مصنوعی غالباً ادعا می‌کنند که واترمارک‌های نامرئی و ابزارهای تشخیص الگوریتمی، اینترنت را در برابر موج فزاینده دیپ‌فیک‌ها ایمن خواهند کرد. با این حال، واقعیت ریاضی نشان می‌دهد که چنین چیزی ممکن نیست. هر دو رویکرد بر تحلیل داده‌های پیکسلی یا فرکانسی یک فایل متکی هستند؛ لایه‌ای که در برابر فشرده‌سازی‌های معمول اینترنت و ویرایش‌های خصمانه از نظر ساختاری شکننده است. با غیرقابل تشخیص شدن مدل‌های زایشی از واقعیت، صنعت امنیت سایبری ناگزیر به کنار گذاشتن تشخیص‌های پس از وقوع و روی آوردن به اصالت‌سنجی رمزنگاری‌شده است. این تغییر، یک حقیقت بنیادین را درباره رسانه‌های دیجیتال در سال ۲۰۲۶ می‌پذیرد: تلاش برای شناسایی تک‌تک تصاویر مصنوعی نبردی از پیش باخته است و تنها مسیر امن از نظر ریاضی، اثبات رمزنگاری‌شده مبدأ محتوای معتبر پیش از رسیدن آن به دست عموم است.

قضاوت انسانی بدون ابزار کمکی، ضعیف‌ترین حلقه در این معماری دفاعی است. مطالعه‌ای در سال ۲۰۲۶ بر روی عملکرد انسان نشان داد که افراد در مجموع تنها در ۵۵ درصد مواقع محتوای دیپ‌فیک را به‌درستی تشخیص می‌دهند و این دقت برای ویدیوها به رقم ناامیدکننده ۳۹ درصد کاهش می‌یابد. این تحقیق نشان داد که اگرچه آموزش هدفمند، تشخیص را به‌طور متوسط ۱۰ واحد درصد بهبود می‌بخشد، اما نرخ شکست پایه همچنان برای آنکه شهود انسانی بتواند به‌عنوان یک فیلتر اولیه عمل کند، بسیار بالاست. این آسیب‌پذیری با شرایط عملیاتی که حملات غالباً در آن رخ می‌دهند تشدید می‌شود؛ جایی که استرس و فشار زمانیِ مهندسی‌شده در دیپ‌فیک‌های هدفمند، احتمال تشخیص دقیق را کاهش می‌دهد. در نتیجه، سازمان‌ها مجبورند به سیستم‌های تشخیص خودکار تکیه کنند که خود این سیستم‌ها نیز در استقرار عملیاتی با شکست مواجه می‌شوند.[3]

اگرچه سیستم‌های تشخیص الگوریتمی در بنچمارک‌های کنترل‌شده آزمایشگاهی به‌طور معمول به دقت ۹۵ تا ۹۹ درصدی دست می‌یابند، اما عملکرد آن‌ها در دنیای واقعی به‌سرعت افت می‌کند. فشرده‌سازی‌های استاندارد شبکه‌های اجتماعی، مانند کدک فراگیر H.264، مصنوعات پیکسلی سطح پایین و ناهماهنگی‌های ترکیب لبه‌ها را که مدل‌ها برای شناسایی رسانه‌های مصنوعی به آن‌ها متکی هستند، از بین می‌برد. علاوه بر این، زمانی که یک سیستم تشخیص به‌جای ویژگی‌های قابل‌تعمیم دیپ‌فیک، مصنوعات فشرده‌سازیِ مختص به یک مجموعه داده را یاد می‌گیرد، کارایی آن به‌محض مواجهه با یک معماری زایشی جدید یا یک حمله سایبری ناشناخته فرو می‌پاشد. پیامد عملی این موضوع آن است که دقت تشخیص دیپ‌فیک یک ویژگی دائمی برای یک مدل نیست؛ بلکه یک اندازه‌گیری موقت است که با تکامل روش‌های زایشی کاهش می‌یابد و تیم‌های امنیتی را در تلاشی دائمی برای رسیدن به مهاجمانی قرار می‌دهد که می‌توانند سریع‌تر از توانایی مدافعان برای آموزش مجدد، روش‌های خود را تکرار و اصلاح کنند.

برای حل شکاف تشخیص، صنعت هوش مصنوعی زایشی به‌شدت به سمت واترمارک‌های نامرئی روی آورد؛ یعنی تعبیه سیگنال‌های رمزنگاری‌شده مستقیماً در دامنه‌های پنهان یا فضایی رسانه در طول فرآیند تولید. با این حال، تحقیقات داوری‌شده نشان می‌دهد که این نشانه‌ها به‌راحتی توسط عوامل باانگیزه حذف یا جعل می‌شوند. یک مطالعه جامع از پژوهشگران دانشگاه روهر بوخوم نشان داد که مهاجمان می‌توانند با استفاده از تنها یک تصویر مرجع، حملات «نقش‌زنی» و «درخواست مجدد» را برای جعل واترمارک‌های معنایی اجرا کنند. مهاجمان با دستکاری بازنمایی پنهان یک تصویر دلخواه در یک مدل انتشار نامرتبط، می‌توانند ارائه‌دهنده هوش مصنوعی را فریب دهند تا هر تصویر واقعی، واترمارک‌دار به نظر برسد؛ این کار عملاً محتوای معتبر را به‌عنوان محتوای مصنوعی جا می‌زند و اعتماد به کل اکوسیستم واترمارک را از بین می‌برد.[1]

سرعت و کارایی بالای این حملات خصمانه، دفاع مبتنی بر واترمارک را برای اعتبارسنجی‌های حساس عملاً منسوخ می‌کند. چارچوب WMaGi که در کنفرانس بین‌المللی یادگیری بازنمایی‌ها (ICLR) ارائه شد، نشان داد که یک مهاجم می‌تواند واترمارک‌های تعبیه‌شده را بین ۵۰۵۰ تا ۱۱۰۰۰ برابر سریع‌تر از حملات پیشین مبتنی بر انتشار، پاک یا جعل کند. مهاجمان با بهره‌گیری از یک مدل انتشار از پیش آموزش‌دیده برای پردازش محتوا در کنار یک شبکه متخاصم زایشی، می‌توانند به‌طور یکپارچه محتوای غیرقانونی با واترمارک‌های جعلی ایجاد کنند و باعث شوند ارائه‌دهندگان خدمات انتساب‌های نادرستی انجام دهند. این شکنندگی ساختاری ثابت می‌کند که هرگونه دفاع متکی بر داده‌های پیکسلی یا فرکانسی رسانه، اساساً برای اینترنت باز که در آن ابزارهای خصمانه به‌طور گسترده در دسترس و از نظر محاسباتی ارزان هستند، نامناسب است.[2]

از آنجا که لایه محتوا را نمی‌توان از نظر ریاضی در برابر دستکاری ایمن کرد، صنعت امنیت سایبری تمرکز خود را به سمت اصالت‌سنجی در لایه فراداده تغییر داده است. استاندارد ائتلاف برای اصالت و منشأ محتوا (C2PA) که توسط کنسرسیوم عظیمی شامل ادوبی، گوگل، مایکروسافت و بی‌بی‌سی پشتیبانی می‌شود، یک شناسنامه با امضای رمزنگاری‌شده را مستقیماً در داخل فایل رسانه‌ای تعبیه می‌کند. استاندارد C2PA به‌جای حدس زدن جعلی بودن یک فایل پس از وقوع با استفاده از طبقه‌بندهای شکننده هوش مصنوعی، مبدأ فایل را در همان نقطه ایجاد اثبات می‌کند و یک زنجیره حفاظتی قابل‌تأیید ارائه می‌دهد که همراه با دارایی دیجیتال در سراسر اینترنت جابه‌جا می‌شود.[4]

شناسنامه C2PA به‌عنوان یک برچسب ارزش غذایی دیجیتال عمل می‌کند و دقیقاً ثبت می‌کند که چه کسی محتوا را ایجاد کرده، چه زمانی ثبت شده و از چه ابزارهای سخت‌افزاری یا نرم‌افزاری خاصی استفاده شده است. این مشخصات، هش‌های رمزنگاری استاندارد مانند SHA2-256 را با رویکردی شبیه به درخت مرکل ترکیب می‌کند که با استفاده از اعتبارنامه‌های استاندارد مبتنی بر X.509 امضای دیجیتال شده‌اند تا اطمینان حاصل شود داده‌ها قابل تغییر نیستند. هرگونه دستکاری در فایل، خواه یک جابه‌جایی چهره مخرب دیپ‌فیک باشد یا یک برش ساده، امضای رمزنگاری‌شده را می‌شکند و دستکاری را فوراً قابل تشخیص می‌کند. این ساختارِ ضد دستکاری، نیاز به تشخیص احتمالی هوش مصنوعی را از بین برده و آن را با ریاضیات قطعی رمزنگاری جایگزین می‌کند.[4]

ادغام سخت‌افزاری، این گذار از استاندارد نظری به استقرار عملی را به‌سرعت شتاب بخشیده است. این استاندارد در سپتامبر ۲۰۲۵، زمانی که گوگل پیکسل ۱۰ را روانه بازار کرد، به یک نقطه عطف حیاتی رسید؛ این اولین گوشی هوشمند بزرگی بود که از اصالت‌سنجی امن C2PA مستقیماً در سخت‌افزار دوربین خود پشتیبانی می‌کرد. این ادغام تضمین می‌کند که زنجیره حفاظتی رمزنگاری‌شده از همان لحظه برخورد نور به سنسور دوربین آغاز می‌شود و از هرگونه دستکاری واسطه‌ای جلوگیری می‌کند. از آن زمان، آژانس امنیت سایبری و امنیت زیرساخت ایالات متحده (CISA) صراحتاً پذیرش C2PA را برای نهادهای دولتی و اپراتورهای زیرساخت‌های حیاتی توصیه کرده و نقش آن را به‌عنوان یک کنترل امنیتی بنیادین برای عصر هوش مصنوعی زایشی تثبیت کرده است.

با این حال، اصالت‌سنجی رمزنگاری‌شده نوشدارویی برای کشف حقیقت نیست و محدودیت‌های آن باید به‌روشنی درک شود. مشخصات C2PA صراحتاً بیان می‌کند که «اعتبارنامه‌های محتوا هیچ‌گونه قضاوت ارزشی درباره اینکه آیا مجموعه‌ای از داده‌های مبدأ 'حقیقت' دارند یا خیر ارائه نمی‌دهند، بلکه صرفاً نشان می‌دهند که اطلاعات مبدأ به‌درستی شکل گرفته و از دستکاری مصون مانده‌اند.» یک عکس با امضای رمزنگاری‌شده تنها ثابت می‌کند که یک دستگاه یا نرم‌افزار خاص، فایل را در یک زمان و مکان مشخص تولید کرده است؛ اما تضمین نمی‌کند که رویداد به تصویر کشیده شده واقعاً به‌طور طبیعی رخ داده باشد، یا زمینه‌ای که ناشر ارائه کرده صادقانه باشد. یک عکس صحنه‌سازی‌شده از یک رویداد جعلی همچنان یک شناسنامه رمزنگاری‌شده کاملاً معتبر تولید خواهد کرد.[4]

گذار از تشخیص پس از وقوع به اصالت‌سنجی رمزنگاری‌شده، نشان‌دهنده پذیرش ساختاری این واقعیت است که بازی موش و گربه در تشخیص دیپ‌فیک در نهایت برنده‌ای نخواهد داشت. اعتماد دیجیتال واقعی در دهه آینده نیازمند یک معماری چندلایه است که در آن شناسنامه‌های رمزنگاری‌شده، مبدأ و یکپارچگی فایل را تثبیت می‌کنند، در حالی که سواد رسانه‌ای انسانی و راستی‌آزمایی سنتی روزنامه‌نگاری، حقیقت معنایی ادعای مطرح‌شده را ارزیابی می‌کنند. با کاهش مانع هزینه‌ای برای رسانه‌های مصنوعی به نزدیک صفر، ایمن‌سازی اینترنت کمتر به شناسایی موارد جعلی و کاملاً به اثبات ریاضی موارد واقعی وابسته خواهد بود.[5]