اوپن‌ای‌آی شبکه نفوذ سایبری ایران با هویت‌های جعلی روزنامه‌نگاری را مسدود کرد

شرکت اوپن‌ای‌آی روز پنج‌شنبه ۱۶ مهر ۱۴۰۵ اعلام کرد که یک شبکه نفوذ سایبری مرتبط با جمهوری اسلامی ایران را شناسایی و مسدود کرده است. این شبکه با استفاده از مدل‌های هوش مصنوعی این شرکت، محتوای جعلی تولید و در رسانه‌های آنلاین منتشر می‌کرد.[1][2]

بر اساس گزارش منتشر شده، عوامل این کارزار با ایجاد هفت هویت جعلی به عنوان روزنامه‌نگار، نزدیک به ۱۰۰ مقاله را در رسانه‌های مختلف آمریکایی و بین‌المللی منتشر یا بازنشر کرده‌اند. این مقالات عمدتاً در انتقاد از سیاست‌های ایالات متحده و جنگ‌های منطقه‌ای نوشته شده بودند.[2][3]

این عملیات نفوذ نشان‌دهنده تغییر تاکتیک در جنگ‌های سایبری است که در آن از ابزارهای پیشرفته مانند چت‌جی‌پی‌تی برای تولید متن‌های متقاعدکننده استفاده می‌شود. اوپن‌ای‌آی تاکید کرده است که این حساب‌ها پیش از آنکه بتوانند مخاطبان گسترده‌ای جذب کنند، شناسایی و غیرفعال شدند.[1]

جزئیات عملیات فریب

گزارش‌ها حاکی از آن است که این شبکه علاوه بر تولید مقاله، از هوش مصنوعی برای ایجاد نظرات جعلی کاربران در زیر مطالب نیز بهره برده است. هدف از این کار، القای این حس بود که مقالات مورد توجه و تایید افکار عمومی قرار گرفته‌اند.[3]

یکی از سخنگویان اوپن‌ای‌آی در این باره گفت که این شرکت به طور مداوم سیستم‌های خود را برای شناسایی سوءاستفاده‌های سازمان‌یافته پایش می‌کند. او افزود که در این مورد خاص، تیم امنیتی توانست پیش از تاثیرگذاری مخرب، شبکه را متوقف کند.[2]

این نخستین بار نیست که شرکت‌های فناوری از سوءاستفاده عوامل دولتی از پلتفرم‌هایشان خبر می‌دهند. با این حال، استفاده سیستماتیک از هوش مصنوعی مولد برای خلق هویت‌های کامل و تولید محتوای انبوه، زنگ خطری جدی برای امنیت اطلاعات در فضای مجازی به شمار می‌رود.[1][3]

کارشناسان امنیت سایبری معتقدند که با نزدیک شدن به رویدادهای مهم سیاسی در کشورهای غربی، تلاش‌ها برای دستکاری افکار عمومی از طریق هوش مصنوعی افزایش خواهد یافت. شناسایی زودهنگام این شبکه‌ها نیازمند همکاری نزدیک میان شرکت‌های فناوری و نهادهای نظارتی است.[2]

واکنش‌ها و پیامدهای امنیتی

در پی انتشار این خبر، برخی از رسانه‌هایی که مقالات جعلی در آن‌ها منتشر شده بود، اقدام به حذف این محتواها کردند. این رسانه‌ها اعلام کرده‌اند که فرآیندهای راستی‌آزمایی هویت نویسندگان خود را بازبینی و تقویت خواهند کرد.[1]

مقامات امنیتی ایالات متحده نیز پیش‌تر درباره تلاش‌های سایبری برای تاثیرگذاری بر افکار عمومی هشدار داده بودند. افشای این شبکه توسط اوپن‌ای‌آی، شواهد ملموسی از این تهدیدات ارائه می‌دهد و ضرورت توسعه ابزارهای تشخیص محتوای تولید شده توسط ماشین را دوچندان می‌کند.[3]

در نهایت، مقابله با این گونه کارزارهای نفوذ تنها به مسدود کردن حساب‌ها محدود نمی‌شود. آموزش عمومی برای ارتقای سواد رسانه‌ای و توانایی تشخیص اخبار جعلی از منابع معتبر، یکی از مهم‌ترین راهکارها برای کاهش اثرات مخرب این عملیات‌های سایبری است.[2][3]

شرکت اوپن‌ای‌آی در گزارش فنی خود تصریح کرده است که این هفت هویت جعلی، پروفایل‌های کاملی در شبکه‌های اجتماعی داشتند و تلاش می‌کردند با روزنامه‌نگاران واقعی ارتباط برقرار کنند. این سطح از پیچیدگی نشان‌دهنده سرمایه‌گذاری قابل توجه در این کارزار سایبری است.[1]

آینده امنیت هوش مصنوعی

با پیشرفت روزافزون مدل‌های زبانی، تشخیص متون تولید شده توسط هوش مصنوعی از نوشته‌های انسانی دشوارتر می‌شود. اوپن‌ای‌آی اعلام کرده است که در حال توسعه الگوریتم‌های جدیدی برای شناسایی الگوهای رفتاری مشکوک در پلتفرم خود است.[2]

این رویداد همچنین بحث‌های حقوقی و اخلاقی درباره مسئولیت شرکت‌های توسعه‌دهنده هوش مصنوعی را داغ‌تر کرده است. قانون‌گذاران در سراسر جهان در حال بررسی مقرراتی هستند که پلتفرم‌ها را ملزم به شفاف‌سازی بیشتر درباره نحوه استفاده از ابزارهایشان می‌کند.[3]

موفقیت اوپن‌ای‌آی در خنثی‌سازی این شبکه پیش از دستیابی به اهدافش، یک پیروزی مهم در عرصه امنیت سایبری محسوب می‌شود. با این وجود، این شرکت هشدار داده است که مهاجمان به طور مداوم روش‌های خود را تغییر می‌دهند و هوشیاری مستمر در این زمینه ضروری است.[1][2]