گزارش آنتروپیک از خنثی‌سازی عملیات سایبری و تجسسی نهادهای حکومتی با استفاده از هوش مصنوعی

امنیت پلتفرم‌های هوش مصنوعی نه در زمان استفاده کاربران، بلکه در لایه‌های پایش و شناسایی تهدیدات توسط خود شرکت‌های توسعه‌دهنده تعیین می‌شود؛ جایی که الگوریتم‌های دفاعی باید پیش از اجرای عملیات، دسترسی بازیگران مخرب را قطع کنند. شرکت آمریکایی «آنتروپیک» (Anthropic)، سازنده مدل هوش مصنوعی «کلود» (Claude)، روز پنجشنبه با انتشار یک گزارش جامع نشان داد که چگونه توانسته است کمپین‌های سایبری نهادهای حکومتی، از جمله جمهوری اسلامی، را در مراحل اولیه شناسایی و خنثی کند.[1][2]

این گزارش ۱۵۴ صفحه‌ای که یکی از شفاف‌ترین اسناد منتشر شده درباره امنیت مدل‌های زبانی بزرگ در سال ۲۰۲۶ محسوب می‌شود، ابعاد گسترده‌ای از تلاش‌های سازمان‌یافته برای سوءاستفاده از این فناوری را مستند کرده است. به گزارش یورونیوز فارسی، «نام ایران، مشتقات آن و شناسه‌های مرتبط با آن در مجموع ۸۴ بار در این گزارش آمده و شش پرونده مرتبط با ایران بررسی شده است.»[1]

داده‌های منتشر شده نشان می‌دهد که نهادها و افراد همسو با حکومت تلاش کرده‌اند از قابلیت‌های پردازشی پیشرفته کلود برای اهداف نظارتی استفاده کنند. سایت ملیون در پوشش این گزارش تاکید کرده است که این عملیات فراتر از تولید محتوای ساده بوده و شامل استفاده از هوش مصنوعی برای «نظارت بر شهروندان، تحلیل شبکه‌های اجتماعی و توسعه ابزارهای تجسسی» علیه مخالفان سیاسی بوده است.[3]

ابعاد این تهدیدات تنها به حوزه نظارت دیجیتال محدود نمی‌شود. شبکه‌های وابسته به دولت‌ها تلاش کرده‌اند از توان تحلیلی این مدل‌ها برای پیشبرد پروژه‌های خطرناک‌تر نیز بهره‌برداری کنند. بی‌بی‌سی فارسی به نقل از بیانیه این شرکت گزارش داده است که آنتروپیک «اقداماتی را شناسایی و خنثی کرده که می‌توانسته به استفاده از مدل‌های این شرکت برای توسعه سلاح‌های بیولوژیک کمک کند.»[2]

مکانیسم دفاعی آنتروپیک در برابر این تهدیدات، بر تحلیل الگوهای رفتاری و شناسایی شبکه‌های هماهنگ استوار است. سیستم‌های امنیتی این شرکت به جای تکیه صرف بر فیلتر کردن کلمات کلیدی، ساختار درخواست‌ها (Prompts) و ارتباط میان حساب‌های کاربری مختلف را بررسی می‌کنند تا پیش از آنکه یک کمپین تبلیغاتی یا نظارتی به مرحله اجرا برسد، دسترسی زیرساخت‌های مرتبط با آن را به طور کامل مسدود کنند.[1][3]

این رویکرد پیشگیرانه، نشان‌دهنده تغییر استراتژی شرکت‌های پیشرو در حوزه هوش مصنوعی از واکنش‌های انفعالی به «شکار تهدید» (Threat Hunting) فعال است. با مسدود کردن حساب‌های کاربری مرتبط با نهادهای حکومتی، آنتروپیک مانع از تکمیل پروژه‌های تجسسی شده و استانداردی جدید برای سایر شرکت‌های فناوری در زمینه مقابله با تهدیدات سایبری دولتی تعریف کرده است.[1]

انتشار علنی و پرجزئیات این گزارش، تاکتیک مهم دیگری در جنگ سایبری مدرن است. با افشای روش‌ها و الگوهای مورد استفاده نهادهای حکومتی، آنتروپیک زیرساخت‌های عملیاتی این گروه‌ها را می‌سوزاند و آن‌ها را مجبور می‌کند تا با صرف هزینه و زمان بسیار بیشتر، روش‌های خود را از نو طراحی کنند. این شفافیت تهاجمی، هزینه سوءاستفاده از هوش مصنوعی را برای بازیگران دولتی به شدت افزایش می‌دهد.[2][3]

گام بعدی در این تقابل تکنولوژیک، به میزان هماهنگی میان غول‌های فناوری بستگی دارد. موفقیت پایدار در برابر کمپین‌های نظارتی و تسلیحاتی دولت‌ها مستلزم آن است که سایر توسعه‌دهندگان مدل‌های زبانی بزرگ نیز چارچوب‌های مشابهی برای شناسایی، مسدودسازی و افشای عمومی تهدیدات اتخاذ کنند تا شبکه‌های مخرب نتوانند پس از اخراج از یک پلتفرم، به سادگی فعالیت خود را به پلتفرم دیگری منتقل کنند.[1][3]