پرونده شواهد: چگونه پزشکی قانونی دیجیتال، دیپ‌فیک‌های هوش مصنوعی علیه شهردار نیویورک را شناسایی کرد

در اوایل سال ۲۰۲۶، پس از انتشار دسته جدیدی از اسناد وزارت دادگستری مرتبط با جفری اپستین، سرمایه‌دار فقید، مجموعه‌ای از تصاویر جنجالی شبکه‌های اجتماعی را فرا گرفت. این تصاویر ظاهراً تأیید بصری یک توطئه گسترده را فراهم می‌کردند و از انتشار اسناد برای هدف قرار دادن یک سیاستمدار در حال خدمت سوءاستفاده می‌کردند.[1][5]

این عکس‌ها ادعا می‌کردند که زهران ممدانی، شهردار نیویورک سیتی، را در دوران کودکی، در کنار مادرش، میرا نایر، فیلمساز مشهور، نشان می‌دهند. در این تصاویر، این دو نفر در حال ژست گرفتن صمیمی با اپستین، شریک او گیسلین مکسول، و مجموعه‌ای از چهره‌های برجسته از جمله بیل کلینتون، رئیس‌جمهور سابق، بیل گیتس و جف بزوس دیده می‌شدند.[1][2][4]

این تصاویر در عرض چند ساعت میلیون‌ها بازدید در پلتفرم‌هایی مانند ایکس، فیس‌بوک و تروث سوشال به دست آوردند. انتشار ویروسی آنها بلافاصله خشم عمومی را برانگیخت و موجی از تئوری‌های توطئه آنلاین را تقویت کرد که در نهایت به اعتراضات فیزیکی در خارج از گراسی منشن، اقامتگاه رسمی شهردار نیویورک سیتی، منجر شد.[5][6]

اما این عکس‌ها کاملاً ساختگی بودند. ائتلافی از کارشناسان پزشکی قانونی دیجیتال، سازمان‌های خبری و صحت‌سنج‌های مستقل به سرعت این روایت را از بین بردند و ثابت کردند که این تصاویر دیپ‌فیک‌های تولیدشده توسط هوش مصنوعی هستند که برای فریب افکار عمومی طراحی شده‌اند.[2][7]

این پرونده شواهد دقیقاً نشان می‌دهد که چگونه محققان این کارزار تهمت‌زنی ویروسی را افشا کردند. محققان با بررسی فراداده‌های دیجیتال، منطق زمانی و منشأ منبع، یک کلاس درسی در مورد نحوه شناسایی رسانه‌های ترکیبی در فضای مجازی ارائه دادند.

قاطع‌ترین مدرک ساختگی بودن، از معماری دیجیتال زیربنایی تصاویر به دست آمد. با پیشرفت روزافزون مولدهای تصویر هوش مصنوعی، شرکت‌های فناوری شروع به جاسازی سیگنال‌های نامحسوس در فایل‌های تولیدی خود کرده‌اند تا اطمینان حاصل شود که بعداً قابل شناسایی هستند.[4]

محققان بوم لایو و سی‌بی‌اس نیوز عکس‌های ویروسی را از طریق ردیاب سینث‌آیدی (SynthID) گوگل اجرا کردند. سینث‌آیدی یک ابزار واترمارک دیجیتال تخصصی است که برای شناسایی محتوایی طراحی شده که با استفاده از مدل‌های هوش مصنوعی اختصاصی گوگل ایجاد یا به طور قابل توجهی تغییر داده شده است.[1][4]

اسکن سینث‌آیدی در کل مجموعه تصاویر ویروسی، مطابقت مثبتی را نشان داد. این شواهد رمزنگاری تأیید کرد که پیکسل‌ها توسط لنز دوربین ثبت نشده‌اند، بلکه توسط یک الگوریتم یادگیری ماشینی تولید شده‌اند.[1][4]

فراتر از واترمارک‌های دیجیتال پنهان، صحت‌سنج‌ها خطاهای منطقی آشکاری را در جدول‌های زمانی تصاویر شناسایی کردند. مدل‌های هوش مصنوعی اغلب با ثبات زمانی مشکل دارند و این دسته از دیپ‌فیک‌ها نیز از این قاعده مستثنی نبودند.[2]

این عکس‌ها به طور مداوم ممدانی را به عنوان یک کودک نوپا یا یک پسر بسیار جوان نشان می‌دادند. با این حال، زمینه ادعایی برای این تصاویر—تنها لنگرگاه واقعی که برای فروش این دروغ استفاده شد—یک مهمانی پس از نمایش فیلم در سال ۲۰۰۹ بود که در یک ایمیل در میان پرونده‌های تازه منتشرشده وزارت دادگستری ذکر شده بود.[2][6]

در سال ۲۰۰۹، ممدانی ۱۸ ساله بود، نه یک کودک نوپا. علاوه بر این، تحلیلگران پزشکی قانونی در خبرگزاری فرانسه (AFP) خاطرنشان کردند که در سراسر مجموعه عکس‌های جعلی، کودک به سرعت از یک نوزاد به یک نوجوان می‌رسد، در حالی که بزرگسالان اطراف او—از جمله اپستین و کلینتون—حتی یک روز هم پیر نمی‌شوند و در زمان منجمد باقی می‌مانند.[2][6]

آخرین ضربه به اعتبار این تصاویر، منشأ آنها بود. محققان اطلاعات منبع باز (OSINT) عکس‌ها را در اکوسیستم شبکه‌های اجتماعی ردیابی کردند تا نقطه شروع مطلق آنها را در اینترنت پیدا کنند.[7]

اتحادیه پخش اروپا و سایر ناظران اطلاعات نادرست، آپلودهای اولیه را در یک حساب کاربری با برچسب «طنز» در پلتفرم ایکس ردیابی کردند. بیوگرافی خود این حساب به صراحت بیان می‌کرد که هدف آن ایجاد «ویدیوها و میم‌های هوش مصنوعی با کیفیت بالا» است، که عملاً از ابتدا به ساختگی بودن اعتراف کرده بود.[4][7]

با وجود بیوگگرافی طنزآمیز حساب، بازیگران بد به سرعت تصاویر را از زمینه اصلی خود جدا کردند. آنها فایل‌ها را دانلود کرده و آنها را در پلتفرم‌های جایگزین مانند تروث سوشال به عنوان عکس‌های تاریخی معتبر، مجدداً بارگذاری کردند و عمداً برچسب طنز را دور زدند.[5]

اوپن مژرز، یک شرکت اطلاعات تهدید، مستند کرد که چگونه تئوریسین‌های توطئه از حداقل زمینه حضور نام نایر در ایمیل وزارت دادگستری سال ۲۰۰۹ برای ساختن یک دروغ بصری و ویروسی استفاده کردند. تصاویر هوش مصنوعی به عنوان قلاب احساسی عمل کردند تا روایت بی‌اساس را ملموس جلوه دهد.[5]

پیامدهای دنیای واقعی این ساختگی دیجیتال فوری و ملموس بود. اطلاعات نادرست با موفقیت شکاف بین اینترنت و دنیای فیزیکی را پر کرد و شهروندان خشمگین را وادار کرد تا صرفاً بر اساس شواهد ترکیبی، در مقابل اقامتگاه شهردار اعتراض کنند.[5]

شهردار ممدانی به طور عمومی به دیپ‌فیک‌ها پرداخت و تجربه دیدن تصاویر «به وضوح فتوشاپ‌شده» خانواده‌اش که در سطح جهان منتشر می‌شوند را «فوق‌العاده دشوار» توصیف کرد. او به ضرب‌المثل قدیمی اشاره کرد که دروغ می‌تواند نیمی از جهان را طی کند در حالی که حقیقت هنوز در حال پوشیدن کفش‌هایش است.[3][6]

او از این حادثه برای درخواست چارچوب‌های نظارتی فوری حاکم بر رسانه‌های ترکیبی استفاده کرد و هشدار داد که سیستم‌های مدنی و حقوقی کنونی «برای سرعت و دسترسی فناوری‌هایی که پیش روی ما هستند، مجهز نیستند.»[3]

در نهایت، افشای سریع دیپ‌فیک‌های ممدانی به عنوان یک مطالعه موردی موفق در سواد دیجیتال مدرن عمل می‌کند. صحت‌سنج‌ها با ترکیب واترمارک‌های رمزنگاری، منطق زمانی اساسی و ردیابی منبع، توانستند یک قطعه پیچیده از پروپاگاندای ترکیبی را به طور قطعی خنثی کنند و یک نقشه راه برای تحقیقات دیجیتال آینده ارائه دهند.