هوش مصنوعی در میدان نبرد: سیستم‌های اطلاعاتی نظامی چگونه کار می‌کنند و چرا «توهم» می‌بینند؟

سیستم‌های اطلاعاتی نظامی مبتنی بر هوش مصنوعی با ترکیب میلیون‌ها نقطه داده از رادارها، پهپادها و ماهواره‌ها کار می‌کنند تا تصویری یکپارچه از میدان نبرد بسازند [2][6]. اما دلیل اینکه این سیستم‌ها گاهی «توهم» می‌بینند، به ذات احتمالی آن‌ها برمی‌گردد؛ این نرم‌افزارها واقعیت را درک نمی‌کنند، بلکه تنها الگوهای پیکسلی و سیگنال‌ها را با پایگاه داده آموزشی خود تطبیق می‌دهند و در صورت نقص داده‌ها، جاهای خالی را با حدس‌های با اعتماد به نفس بالا پر می‌کنند [6].[2][5]

پیامدهای این خطای محاسباتی در دنیای واقعی می‌تواند فاجعه‌بار باشد. در اواخر تابستان ۲۰۲۶، یک گزارش اطلاعاتی نادرست که با کمک هوش مصنوعی تهیه شده بود، ارتش ایالات متحده را تا آستانه اجرای یک عملیات نظامی علیه یک کشتی چینی پیش برد [1]. این عملیات تنها در آخرین لحظات و پس از آنکه اپراتورهای انسانی متوجه ساختگی بودن داده‌های پردازش‌شده شدند، لغو گردید [1]. این حادثه نشان داد که چگونه یک توهم الگوریتمی می‌تواند در کسری از ثانیه به یک بحران بین‌المللی تبدیل شود.[1]

برای درک این پدیده، ابتدا باید مکانیزم «همجوشی حسگرها» (Sensor Fusion) را بشناسیم. در یک میدان نبرد مدرن، هیچ حسگری به تنهایی نمی‌تواند کل محیط را ببیند. رادارها در تشخیص فاصله و سرعت در هوای بد عالی هستند اما نمی‌توانند رنگ یا نوع دقیق هدف را مشخص کنند، در حالی که دوربین‌های اپتیکال در طبقه‌بندی اشیاء دقیق‌اند اما با دود یا تاریکی کور می‌شوند [3]. همجوشی حسگرها، داده‌های خام این منابع مختلف را می‌گیرد و با استفاده از فیلترهای ریاضی، یک مدل واحد و قابل اتکا از محیط ایجاد می‌کند [2][3].[2][3]

دلیل روی آوردن ارتش‌ها به این فناوری، حجم فلج‌کننده اطلاعات است. به عنوان مثال، پروژه میون (Project Maven) که در سال ۲۰۱۷ توسط وزارت دفاع آمریکا آغاز شد، دقیقاً برای حل همین مشکل طراحی گردید [3][5]. پیش از این سیستم، تحلیلگران انسانی باید بیش از ۳۲۷ هزار ساعت فیلم ضبط‌شده توسط پهپادها را به صورت دستی بررسی می‌کردند [4]. با ورود هوش مصنوعی، سرعت شناسایی اهداف تا ۱۰ برابر افزایش یافت و در برخی عملیات‌ها، سیستم توانست بیش از ۱۰۰۰ هدف بالقوه را در ۲۴ ساعت اول پردازش کند [4].[3][4]

با این حال، این سرعت بی‌نظیر بهای سنگینی دارد. مدل‌های یادگیری عمیق که وظیفه پردازش این داده‌ها را بر عهده دارند، بر اساس احتمالات کار می‌کنند [6]. وقتی یک سیستم هوش مصنوعی یک شیء را با «۹۸ درصد اطمینان» به عنوان یک پرتابگر موشک شناسایی می‌کند، این عدد به معنای قطعیت در دنیای واقعی نیست؛ بلکه تنها نشان می‌دهد که پیکسل‌های دریافتی تا ۹۸ درصد شبیه به تصاویری است که سیستم در مرحله آموزش دیده است [6].[5]

در محیط‌های جنگی که مملو از پارازیت‌های جنگ الکترونیک، شرایط جوی نامساعد و استتار فیزیکی است، داده‌های ورودی به شدت مخدوش می‌شوند. در این شرایط، هوش مصنوعی به جای اعلام ناتوانی، تمایل دارد داده‌های ناقص را با الگوهای آشنا پر کند [6]. این همان نقطه‌ای است که «توهم» رخ می‌دهد: سیستم یک هدف نظامی را در جایی که وجود ندارد می‌سازد، یا ویژگی‌های یک سلاح را به یک زیرساخت غیرنظامی نسبت می‌دهد [6].[5]

مشکل دیگر، سوگیری ذاتی این سیستم‌ها به سمت «مثبت کاذب» است. طراحان الگوریتم‌های نظامی معمولاً سیستم را طوری تنظیم می‌کنند که حساسیت بالایی داشته باشد، زیرا نادیده گرفتن یک تهدید واقعی بسیار خطرناک‌تر از اعلام یک هشدار اشتباه ارزیابی می‌شود [6]. اما در یک محیط عملیاتی پرفشار، این هشدارهای کاذبِ مداوم می‌توانند باعث شوند که اپراتورها به تدریج دقت خود را از دست داده و به هر خروجی ماشین اعتماد کنند؛ پدیده‌ای که به آن «سوگیری اتوماسیون» می‌گویند [6].[5]

با ورود مدل‌های زبانی بزرگ (LLM) به حوزه تحلیل اطلاعات، لایه جدیدی از پیچیدگی و خطر اضافه شده است. در سال ۲۰۲۵، آژانس ملی اطلاعات مکانی آمریکا (NGA) استفاده از این مدل‌ها را برای تعامل طبیعی‌تر تحلیلگران با داده‌ها گسترش داد، که به گفته مقامات، سرعت هدف‌یابی را تا ۵ برابر دیگر افزایش داد [4]. اما مدل‌های زبانی اساساً ماشین‌های پیش‌بینی کلمه بعدی هستند و اگر اطلاعات کافی نداشته باشند، برای راضی کردن کاربر، شواهدی را جعل می‌کنند که فرضیه‌های اولیه را تأیید کند [4][6].[4][5]

شان باتیر (Sean Batir)، مدیر ارشد فناوری پیشین در پروژه میون، تأکید می‌کند که «مدل‌های زبانی بزرگ می‌توانند با تحلیلگران انسانی تعامل کنند و به آن‌ها در تفسیر مقاصد دشمن و توسعه مسیرهای اقدام احتمالی یاری برسانند.» [4] اما همین تعامل روان، خطر اعتماد بیش از حد را به همراه دارد. وقتی یک خروجی توهم‌آمیز وارد زنجیره فرماندهی می‌شود، سرعت بالای شبکه‌های دیجیتال باعث می‌شود که این خطای ماشینی پیش از آنکه یک انسان فرصت بررسی آن را داشته باشد، به عنوان یک حقیقت پذیرفته شود [6].[4][5]

چالش اصلی در استفاده از هوش مصنوعی نظامی، ارتقای الگوریتم‌ها نیست، بلکه حفظ جایگاه تحلیلی انسان است. تا زمانی که سیستم‌های خودمختار نتوانند مفهوم «قصد فرمانده» یا «تناسب درگیری» را درک کنند، اتکای چشم‌بسته به خروجی‌های احتمالی آن‌ها، قمار با جان انسان‌هاست. راهکار ایمن، نه حذف هوش مصنوعی، بلکه طراحی رابط‌هایی است که میزان عدم قطعیت ماشین را به وضوح به کاربر نشان دهند تا انسان به جای یک تأییدکننده منفعل، یک تصمیم‌گیرنده آگاه باقی بماند [6].[5]