رفتن به محتوای اصلی
امنیت هوش مصنوعیچایلدلایت· 7 دقیقه مطالعه· در فناوری

جهش ۸۴۰۰ درصدی تصاویر ساختگی سوءاستفاده از کودکان؛ بحران جدید هوش مصنوعی پیش پای نهادهای ناظر

گزارش‌های مربوط به تصاویر ساختگی سوءاستفاده از کودکان ارسالی به مرکز ملی کودکان گمشده و استثمارشده آمریکا در سال ۲۰۲۵ از مرز ۴۰۰ هزار مورد گذشت؛ رشدی فزاینده ناشی از گسترش دیپ‌فیک‌ها و اپلیکیشن‌های برهنه‌ساز که تیم‌های جرم‌شناسی دیجیتال را مستأصل کرده و موجی از واکنش‌های قانونی جهانی را به همراه داشته است.

به قلم نیما موسوی

این خبر را به اشتراک بگذارید

گوش‌ دهید

گزارش جدید پژوهشکده «چایلدلایت» در دانشگاه ادینبرو نشان می‌دهد که گزارش‌های مربوط به محتوای سوءاستفاده جنسی از کودکان تولیدشده توسط هوش مصنوعی، طی دو سال بیش از ۸۴۰۰ درصد جهش داشته است. شرکت‌های فناوری در سال ۲۰۲۵ بیش از ۴۰۰ هزار مورد از این ارجاعات را به «مرکز ملی کودکان گمشده و استثمارشده» آمریکا ارسال کرده‌اند.[1][3]

این آمار در مقایسه با سال ۲۰۲۳ که تنها حدود ۴۷۰۰ گزارش مرتبط با هوش مصنوعی زایشی در این مرکز ثبت شده بود، حاکی از یک جهش نجومی است. این داده‌ها که در شاخص سال ۲۰۲۶ این پژوهشکده منتشر شده، نشان می‌دهد ابزارهای تولید تصویر چقدر سریع به پدیده‌ای مهارناپذیر تبدیل شده و سامانه‌های پایش را از کار انداخته‌اند.[4]

بخش بزرگی از این محتوا از طریق ابزارهای موسوم به «برهنه‌ساز» و فناوری دیپ‌فیک تولید می‌شود؛ ابزارهایی که عکس‌های واقعی کودکان را دستکاری کرده و پوشش آن‌ها را حذف می‌کنند. اگرچه خروجی نهایی ساختگی است، اما آسیب روانی وارد به قربانی کاملاً واقعی بوده و شبکه‌های تبهکاری از این ترفند برای باج‌گیری مالی استفاده می‌کنند.[1][4]

پروفسور دبی فرای، مدیر داده‌های جهانی چایلدلایت، در این باره می‌گوید: «پژوهش‌های ما ابعاد نگران‌کننده سوءاستفاده جنسی از کودکان و سرعت سرسام‌آور تحول این تهدیدات در فضای مجازی را برملا می‌کند. ترکیب شواهد حاصل از پیمایش‌ها و پرونده‌های پلیس، تصویر شفاف‌تری از این مخاطرات پیش روی ما قرار می‌دهد».[1]

بخشی از این افزایش گزارش‌ها به ارتقای سیستم‌های شناسایی پلتفرم‌های بزرگ برمی‌گردد. با این حال، کارشناسان هشدار می‌دهند حجم انبوه تصاویر سنتتیک کارشناسان و مراجع قضایی را چنان درگیر کرده که نجات کودکانی که در دنیای واقعی با خطر جانی فوری روبه‌رو هستند با اخلال جدی مواجه شده است.[4]

ابزارهای پالایش سنتی نظیر PhotoDNA بر مبنای تطبیق «هش» فایل‌های سوءاستفاده شناخته‌شده کار می‌کنند تا مانع بارگذاری آن‌ها شوند. اما هوش مصنوعی زایشی در هر بار دستور، فایلی کاملاً جدید تولید می‌کند؛ نقصی ساختاری که ابزارهای خودکار را خنثی کرده و بازرسان را مجبور می‌سازد هزاران تصویر فتورئالیستی را تک‌به‌تک بررسی کنند.

«بنیاد دیدبان اینترنت» بریتانیا نیز که موارد استثمار آنلاین را ارزیابی می‌کند، از جهش مشابهی در صف‌های بررسی خود خبر داده است. این نهاد ناظر تنها در نیمه نخست سال ۲۰۲۶ تعداد ۶۳۱۰ تصویر تولیدشده با هوش مصنوعی را که واجد تعریف قانونی سوءاستفاده جنسی بودند بررسی کرده که نشان‌دهنده شتاب گرفتن این روند است.[1][4]

این آمار ۶ ماهه، ۴۰ درصد از کل ۴۵۰۰ تصویر ساختگی ثبت‌شده توسط این بنیاد در کل سال ۲۰۲۵ بیشتر است. تحلیل‌گران خاطرنشان کرده‌اند که بخش عمده تصاویر تولیدی تا حدی واقع‌گرایانه بوده‌اند که با عکس‌های واقعی قابل تمایز نبوده و همین امر غربالگری پرونده‌های فوری را دشوارتر می‌کند.[1]

مجرمان سایبری این تصاویر سنتتیک را به ابزاری برای به دام انداختن نوجوانان در طرح‌های اخاذی جنسی تبدیل کرده‌اند. تبهکاران تصاویر عادی نوجوانان را از صفحات شبکه‌های اجتماعی یا وب‌سایت مدارس برمی‌دارند، آن‌ها را با ابزارهای هوش مصنوعی دستکاری می‌کنند و با تهدید به انتشار عمومی در میان آشنایان، درخواست پول می‌کنند.[1]

مرکز ملی کودکان گمشده و استثمارشده اعلام کرده است که بخش عمده قربانیان، پسران نوجوانی بوده‌اند که حساب‌های کاربری جعلی با آن‌ها ارتباط برقرار کرده و مکالمات عادی را به‌سرعت به تهدید و باج‌خواهی کشانده‌اند. این مرکز بیش از ۲۷۵ قربانی مستقیم پرونده‌های اخاذی مبتنی بر هوش مصنوعی را طی دو سال شناسایی کرده است.

فراتر از باج‌گیری، مدل‌های زایشی برای آزار مجدد قربانیان پرونده‌های پیشین نیز به کار گرفته می‌شوند. مجرمان تصاویر سوءاستفاده‌های پیشین را بازخوردی برای مدل‌های زایشی قرار می‌دهند تا محتوای کاملاً تازه تولید کنند؛ فرایندی که استثمار یک کودک را در قالب هزاران فایل غیرقابل‌ردیابی تکثیر کرده و فیلترهای معمول را فریب می‌دهد.

هوش مصنوعی زایشی امروزه تصاویری خلق می‌کند که مرز میان جرم واقعی و شبیه‌سازی رایانه‌ای را محو کرده است. این وضوح و دقت بالا، تشخیص اینکه یک تصویر صحنه واقعی جرم است یا داده‌ای حاصل از پردازش الگوریتم را برای بازرسان دادستانی به کابوسی فنی تبدیل کرده است.

در پی این بحران رو به رشد، بریتانیا اقدام به تدوین لوایحی برای جرم‌انگاری مستقیم این دسته از ابزارهای هوش مصنوعی کرده است. دولت این کشور قصد دارد مالکیت، توسعه یا توزیع ابزارهای متخصصی را که برای تولید محتوای سوءاستفاده جنسی از کودکان آموزش دیده‌اند غیرقانونی اعلام کند تا این رخنه حقوقی بسته شود.[4]

این چارچوب قانونی در بریتانیا همچنین نشر راهنماهایی را که شیوه دور زدن نرده‌های محافظ اخلاقی در مدل‌های تجاری را آموزش می‌دهند، هدف قرار داده است. متخلفان در صورت نگهداری یا بازنشر این ابزارهای دستکاری‌شده، ممکن است تا پنج سال حبس دریافت کنند.[4]

در ایالات متحده اما ساختار حقوقی این موضوع همچنان دچار شکاف است. هرچند تا سپتامبر ۲۰۲۶ حدود ۴۷ ایالت تولید یا ویرایش رایانه‌ای این محتوا را جرم تلقی کرده‌اند، دادستان‌های فدرال در تطبیق قوانین سنتیِ دهه‌ها پیش با تصاویر کاملاً مجازی روی حافظه‌های خصوصی، با موانع اساسی روبه‌رو هستند.

رأی اخیر دادگاه تجدیدنظر فدرال در ویسکانسین این چالش را به‌خوبی آشکار ساخت. این دادگاه اتهام نگهداری تصاویر ساختگی علیه فردی را که با استفاده از مدل Stable Diffusion بیش از ۱۳ هزار تصویر ایجاد کرده بود، با استناد به اینکه تصویربرداری واقعی صورت نگرفته و قانون مربوط به محتوای صرفاً مجازی در حریم شخصی نیست، رد کرد.

دادستان‌های فدرال برای انطباق قوانین سنتی با محتوای سوءاستفاده کاملاً شبیه‌سازی‌شده روی حافظه‌های رایانه‌ای، با موانع جدی روبه‌رو هستند.

باید در نظر داشت رقم ۴۰۰ هزار گزارش ثبت‌شده توسط چایلدلایت، صرفاً مواردی است که شبکه‌های اجتماعی بزرگ کشف و گزارش کرده‌اند. پلتفرم‌هایی که شبکه‌های خود را برای کشف محتوای سنتتیک اسکن نمی‌کنند هیچ داده‌ای تولید نمی‌کنند، که به معنای وجود فضاهای تاریک گسترده در اینترنت است.[4]

مؤسسه چایلدلایت تخمین می‌زند بیش از ۳۰۰ میلیون کودک در جهان سالانه دست‌کم با یک شکل از بهره‌کشی جنسی آنلاین روبه‌رو می‌شوند. این نهاد پیش‌بینی می‌کند از هر چهار کودک، یک نفر پیش از رسیدن به سن ۱۸ سالگی با شکلی از سوءاستفاده در اینترنت مواجه خواهد شد.[1]

مرکز ملی کودکان گمشده آمریکا سامانه Take It Down را برای مقابله با این بحران راه‌اندازی کرده است. این سامانه به افراد امکان می‌دهد بدون نیاز به بارگذاری عکس در اینترنت، هش دیجیتال تصویر خصوصی را روی دستگاه خود ایجاد کنند تا پلتفرم‌های همکار بتوانند انتشار آن فایل را در شبکه‌های خود مسدود کنند.

با وجود تمام این تمهیدات، سرعت توسعه نرم‌افزارها فرسنگ‌ها جلوتر از قانون‌گذاری است. مدل‌های متن‌باز و انجمن‌های نامتمرکز این امکان را به افراد داده‌اند که ابزارهای تولید تصویر فتورئالیستی را حتی در حالت کاملاً آفلاین روی رایانه‌های شخصی اجرا کنند، بدون اینکه ردیابی شوند.

حامیان حقوق کودک معتقدند بار مقابله با این پدیده به‌شکل نامنصفانه‌ای بر دوش قربانیان و ناظران شبکه‌ها افتاده است. آن‌ها خواستار قوانین الزام‌آوری هستند که سازندگان مدل‌های هوش مصنوعی را مجبور کند فیلترهای نفوذناپذیر را درون کد نرم‌افزار تعبیه کنند، پیش از آنکه دسترسی عمومی به آن داده شود.

پلیس فدرال آمریکا (اف‌بی‌آی) بر این باور است که هرگونه محتوای شبیه‌سازی‌شده در این حوزه غیرقانونی است. با این حال ماهیت فرامرزی اینترنت دست مجرمان را باز گذاشته تا زیرساخت‌های خود را به کشورهایی منتقل کنند که قوانین ضعیف‌تر یا نظارت حداقلی بر فضای دیجیتال دارند.

تیم‌های پلیس ناچار شده‌اند شیوه‌های فنی خود را نیز دگرگون کنند. مأموران در جریان بازرسی‌های معمول خود به‌وفور با ده‌ها هزار تصویر سنتتیک روی دستگاه‌های توقیفی مواجه می‌شوند و نیازمند ابزارهای تحلیل جرم‌شناسی جدیدی هستند تا قبل از توزیع تصویر، متوجه شوند آیا پای کودکی واقعی در میان است یا خیر.

تیم‌های پلیس ناچار شده‌اند شیوه‌های فنی خود را نیز دگرگون کنند.

جهش ۸۴۰۰ درصدی تنها آغاز یک چالش فناورانه پیچیده است؛ چرا که با عرضه ابزارهای تولید ویدیو و همگام‌سازی صدا به صورت بلادرنگ، تفکیک محتوای رایانه‌ای از فیلم‌برداری واقعی برای نهادهای قضایی هر روز ناممکن‌تر از گذشته خواهد شد.[1]

آنچه نمی‌دانیم

  • چند قربانی منحصربه‌فرد در این ۴۰۰ هزار مورد گزارش‌شده وجود دارد، زیرا سامانه‌های گزارش‌دهی ممکن است برای یک تصویر مشترک پرونده‌های تکراری بسازند.
  • آیا قوانین ایالتی در زمینه جرم‌انگاری نگهداری تصاویر صرفاً مجازی هوش مصنوعی، می‌توانند از چالش‌های قانون اساسی آمریکا در دادگاه‌های فدرال جان سالم به در ببرند؟
  • حجم دقیق محتوای ساختگی تولیدشده در دارک‌وب و بسترهای نامتمرکز که به مراجع قانونی گزارش نمی‌شوند چه میزان است.
فعالان حقوق کودک 50%نهادهای انتظامی و پلیس 30%حقوق‌دانان 20%
فعالان حقوق کودک
بر آسیب‌های روانی عینی تصاویر ساختگی تأکید دارند و خواستار مهار منشأ بحران در پلتفرم‌ها هستند.
نهادهای انتظامی و پلیس
بر چالش‌های عملیاتی در بررسی حجم نجومی فایل‌ها و لزوم به‌روزرسانی ابزارهای جرم‌شناسی تمرکز می‌کنند.
حقوق‌دانان
به شکاف‌های قوانین کنونی و مغایرت تعقیب قضایی محتوای صرفاً مجازی با اصول حقوقی اشاره دارند.

منابع

پوشش منابع

4 منبع

3 دیدگاه شناسایی‌شده

فعالان حقوق کودک 50%نهادهای انتظامی و پلیس 30%حقوق‌دانان 20%
  1. [1]The Guardianفعالان حقوق کودک

    Reports of AI-related child sexual abuse material rise 8,400% in two years, data shows

    مطالعه در The Guardian →
  2. [2]The Independentفعالان حقوق کودک

    Shock report finds AI-generated child sex abuse images soar 8,400% in two years

    مطالعه در The Independent →
  3. [3]The Apex Wireفعالان حقوق کودک

    AI-linked child abuse reports to the US National Center for Missing and Exploited Children rose from 4,700 in 2023 to over 400,000 in 2025, Childlight finds

    مطالعه در The Apex Wire →
  4. [4]Startup Fortuneفعالان حقوق کودک

    Childlight says AI-linked child abuse referrals to NCMEC rose from 4700 in 2023 to over 400000 in 2025, while the UK criminalises abuse-image AI tools

    مطالعه در Startup Fortune →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.