گزارش نیویورک‌تایمز: استفاده ایران، چین و شرکت‌های اسرائیلی از ایجنت‌های هوش مصنوعی برای عملیات نفوذ خودکار

در ۲۸ شهریور ۱۴۰۵، روزنامه نیویورک‌تایمز در گزارشی افشا کرد که نسل جدیدی از عملیات نفوذ سایبری توسط ایران، چین و ۲ شرکت خصوصی اسرائیلی با استفاده از «ایجنت‌های هوش مصنوعی» در شبکه‌های اجتماعی به اجرا درآمده است. این کمپین‌ها نشان‌دهنده یک تغییر پارادایم در جنگ‌های اطلاعاتی هستند؛ جایی که نرم‌افزار از یک ابزار ساده تولید متن، به یک مدیر کاملاً خودمختار برای هدایت عملیات تبدیل شده است.[1][2]

مکانیسم این عملیات جدید بر پایه استقلال کامل نرم‌افزار بنا شده است. روزنامه نیویورک‌تایمز در تشریح این مکانیسم می‌نویسد: «اهمیت این تحول در آن است که هوش مصنوعی دیگر صرفاً برای تولید متن، تصویر یا ویدئوی جعلی به کار نمی‌رود؛ بلکه اکنون می‌تواند تقریباً تمام مراحل یک عملیات نفوذ، از ساخت حساب‌های جعلی گرفته تا انتشار و هماهنگ‌سازی پیام‌ها، را با حداقل دخالت انسان انجام دهد.»

بر اساس این گزارش، ۱ شبکه منتسب به ایران که کاربران آمریکایی را هدف قرار داده بود، موفق شد پیش از شناسایی، نزدیک به ۸۰ هزار دنبال‌کننده در ۴ پلتفرم اصلی جذب کند.[1][2][3]

در کنار عملیات‌های دولتی، نام ۲ شرکت خصوصی اسرائیلی نیز در این پرونده به چشم می‌خورد. یکی از این شرکت‌ها به نام «اینتل‌آی» (Intel-I) که در سال ۲۰۲۳ توسط فارغ‌التحصیلان گروه سازنده نرم‌افزارهای جاسوسی NSO تأسیس شده است، هدایت یکی از این شبکه‌ها را بر عهده داشت. این شرکت با بهره‌گیری از مدل زبانی چینی، هزاران حساب کاربری ایجاد کرد که به صورت همزمان محتوای موافق و مخالف درباره چهره‌های سیاسی اسرائیل منتشر می‌کردند تا فضای بحث‌های داخلی را ملتهب کنند.[1][2]

هسته اصلی موفقیت این کمپین‌ها، استفاده از مدل‌های زبانی متن‌باز (Open-Source) مانند مدل چینی «دیپ‌سیک» (DeepSeek) بوده است. برخلاف مدل‌های تجاری بسته متعلق به ۲ غول فناوری یعنی OpenAI و Anthropic که می‌توانند فعالیت حساب‌های مخرب را از راه دور متوقف کنند، مدل‌های متن‌باز روی سرورهای خصوصی اجرا می‌شوند. این معماری غیرمتمرکز به مجریان عملیات اجازه می‌دهد تا محدودیت‌های ایمنی طراحی‌شده برای جلوگیری از جعل هویت را به طور کامل غیرفعال کنند.[1][4]

با حذف نیاز به نیروی انسانی برای هدایت تک‌تک حساب‌ها، هزینه و زمان اجرای یک عملیات نفوذ به شدت کاهش یافته است. صدها عامل هوش مصنوعی اکنون می‌توانند به صورت شبانه‌روزی محتوای نادرست سیاسی و خبری را با سرعتی بی‌سابقه تولید و توزیع کنند. اگرچه مقامات اطلاعاتی آمریکا ارزیابی کرده‌اند که محتوای تولید شده در این موج اخیر هنوز از نظر کیفی در سطح ابتدایی قرار دارد، اما خودکار شدن کامل این چرخه، زنگ خطر را برای امنیت پلتفرم‌های دیجیتال به صدا درآورده است.[1][3]

پلتفرم‌های اجتماعی اکنون با چالشی بی‌سابقه روبرو هستند. آن‌ها باید شبکه‌هایی را شناسایی کنند که با سرعت ماشین یاد می‌گیرند و رفتار کاربران انسانی را شبیه‌سازی می‌کنند. در حالی که شرکت‌های فناوری در بهار ۱۴۰۳ موفق به مسدودسازی چندین شبکه نفوذ سنتی شده بودند، مقابله با ایجنت‌های خودمختاری که به صورت توزیع‌شده و بدون وابستگی به سرورهای متمرکز شرکت‌های هوش مصنوعی فعالیت می‌کنند، نیازمند توسعه نسل جدیدی از ابزارهای دفاعی است که هنوز کارایی آن‌ها در مقیاس بزرگ اثبات نشده است.[2][4]

در نهایت، این گزارش نشان می‌دهد که مرزهای میان تولید محتوای خودکار و عملیات روانی پیچیده در حال محو شدن است. با پیشرفت مداوم مدل‌های زبانی و افزایش دسترسی به ابزارهای متن‌باز، انتظار می‌رود که در آینده‌ای نزدیک، تشخیص هویت واقعی بازیگران پشت پرده در فضای مجازی به یکی از بزرگترین چالش‌های دولت‌ها و نهادهای امنیتی تبدیل شود.[1]

این تحولات همچنین فشارها را بر قانون‌گذاران در سراسر جهان افزایش داده است تا چارچوب‌های جدیدی برای نظارت بر استفاده از هوش مصنوعی تدوین کنند. با این حال، ماهیت بدون مرز این فناوری و سرعت بالای نوآوری در آن، تدوین قوانین موثر و قابل اجرا را به یک معمای پیچیده برای سیاست‌گذاران تبدیل کرده است.[3]