اعتماد به هوش مصنوعی در جنگ: از فاجعه میناب تا آستانه درگیری با چین

قرار بود هوش مصنوعی جنگ‌ها را دقیق‌تر و تلفات را کمتر کند، اما شواهد نشان می‌دهد که این فناوری در حال تحمیل خطاهای فاجعه‌بار است. حمله مرگبار به مدرسه شجره طیبه در میناب و نزدیک شدن به آستانه درگیری نظامی با یک کشتی چینی، نقص مرگبار اتکا به الگوریتم‌ها را در تصمیم‌گیری‌های نظامی آشکار کرده است.[1][2]

فاجعه میناب یکی از تاریک‌ترین نقاط این روند است. بر اساس گزارش بلومبرگ، بازرسان پنتاگون در بررسی‌های خود به این نتیجه رسیده‌اند که اتکای بیش از حد به هوش مصنوعی و استفاده از تصاویر ماهواره‌ای قدیمی، نقش کلیدی در هدف قرار دادن این مدرسه داشته است.[2][3]

در این حمله بیش از ۱۶۸ غیرنظامی جان خود را از دست دادند. سیستم هوش مصنوعی به اشتباه این مکان را به عنوان یک هدف نظامی شناسایی کرد و اپراتورهای انسانی با اعتماد به خروجی ماشین، از بررسی‌های مستقل و دقیق‌تر غفلت کردند؛ پدیده‌ای که به عنوان «سوگیری اتوماسیون» شناخته می‌شود.[3]

ابعاد این فاجعه به حدی گسترده است که هیئت حقیقت‌یاب سازمان ملل متحد اعلام کرده است احتمال ارتکاب جنایت جنگی از سوی آمریکا در این حمله و حملات مشابه وجود دارد. این موضوع نشان‌دهنده خلاء پاسخگویی در زمانی است که الگوریتم‌ها ماشه را می‌کشند.[5]

اما خطرات هوش مصنوعی تنها به تلفات غیرنظامی محدود نمی‌شود و می‌تواند به فجایع ژئوپلیتیک منجر شود. در بهار سال ۲۰۲۶ و در بحبوحه جنگ، یک گزارش اطلاعاتی ارتش آمریکا که با کمک هوش مصنوعی تهیه شده بود، به اشتباه ادعا کرد که یک کشتی چینی در خاورمیانه در حال انتقال قطعات مرتبط با برنامه تسلیحات هسته‌ای به ایران است.[1][4]

این گزارش نادرست به سرعت در سراسر زنجیره فرماندهی ارتش آمریکا دست‌به‌دست شد. به گزارش سی‌ان‌ان و به نقل از منابع مطلع، این خطای محاسباتی واشنگتن و پکن را تا آستانه یک درگیری نظامی مستقیم پیش برد، پیش از آنکه تحلیلگران انسانی مداخله کرده و توهم ماشین را اصلاح کنند.[1][4]

مدافعان استفاده از هوش مصنوعی در ارتش استدلال می‌کنند که این‌ها دردهای رشد یک فناوری نوپا هستند که در نهایت با پردازش سریع‌تر داده‌های میدان نبرد، جان انسان‌ها را نجات خواهد داد. آن‌ها استدلال می‌کنند که انسان‌ها نیز مرتکب خطاهای مرگبار می‌شوند و هوش مصنوعی در طول زمان دقیق‌تر خواهد شد.

با این حال، سرعت و مقیاس عملکرد هوش مصنوعی به این معناست که خطاهای آن بسیار سریع‌تر تشدید می‌شوند. زمانی که یک سیستم هوش مصنوعی توهم انتقال تسلیحات هسته‌ای را تولید می‌کند، پنجره دیپلماسی برای جلوگیری از جنگ به چند دقیقه کاهش می‌یابد. حوادث میناب و خلیج فارس نشان می‌دهد که این فناوری در حال حاضر برای چنین خطرات بالایی بسیار شکننده است.[1][3]

پرسش نهایی این نیست که آیا هوش مصنوعی در جنگ استفاده خواهد شد یا خیر، بلکه این است که آیا فرماندهان انسانی آن شک‌گرایی لازم برای نادیده گرفتن خروجی ماشین را حفظ خواهند کرد؟ تا زمانی که ارتش‌ها پروتکل‌هایی را ایجاد نکنند که خروجی‌های هوش مصنوعی را به جای واقعیت قطعی، تنها به عنوان یک فرضیه در نظر بگیرند، خطر تکرار فاجعه میناب یا درگیری ابرقدرت‌ها به طرز غیرقابل قبولی بالا باقی خواهد ماند.