گزارش اطلاعاتی معیوب هوش مصنوعی، آمریکا و چین را در آستانه درگیری دریایی در خاورمیانه قرار داد

در ۱۸ سپتامبر ۲۰۲۶، ارتش ایالات متحده پس از آنکه دریافت عملیاتش بر پایه یک ارزیابی اطلاعاتیِ ساختگیِ تولیدشده توسط سیستم هوش مصنوعی استوار است، در آخرین لحظات از ورود مسلحانه به یک کشتی تجاری چینی در خاورمیانه منصرف شد. این ابزار خودکار که توسط ستاد فرماندهی مرکزی آمریکا (سنتکام) برای نظارت بر ترافیک دریایی به کار گرفته شده بود، به‌اشتباه این کشتی را در حال انتقال مواد غیرقانونی هسته‌ای به مقصد ایران شناسایی کرده بود. این ارزیابیِ تهدیدِ توهم‌آمیز، نیروهای دریایی آمریکا را بر آن داشت تا پروتکل‌های رهگیری فوری را آغاز کنند و شناورهای رزمی را در موقعیت قرار دهند، اما پیش از آن، تحلیلگران انسانی خطای نرم‌افزار را تشخیص داده و عملیات را متوقف کردند.[1][2][3]

این حادثه در پس‌زمینه تشدید تنش‌های دریایی در منطقه رخ داد؛ جایی که نیروهای آمریکایی وضعیت هشدار سخت‌گیرانه‌ای را در قبال خطوط تدارکاتی ایران و شبکه‌های احتمالی اشاعه تسلیحاتی حفظ می‌کنند. بر اساس گزارش‌های تشریح‌کننده این رویداد، یک پلتفرم اطلاعاتی مبتنی بر هوش مصنوعی که توسط طراحان نظامی استفاده می‌شود، داده‌های ردیابی پراکنده، بارنامه‌های دریایی و الگوهای تردد تاریخی را ترکیب کرده بود. این سیستم به‌جای آنکه یک انحراف مسیر معمول را به‌درستی مشخص کند، یک ارزیابی تهدیدِ بحرانی ارائه داد که ارتباطی کاملاً ساختگی میان محموله کشتی و تلاش‌های تدارکاتی هسته‌ای ایران ایجاد کرد و از فیلترهای اولیه راستی‌آزمایی خودکار نیز عبور کرد.[3][6]

فرماندهان نیروی دریایی آمریکا با اتکا به این هشدار خودکارِ دارای ضریب اطمینان بالا، مجوز یک مانور رهگیری نظامی را صادر کردند. به یگان‌های سطحی دستور داده شد تا کشتی با پرچم چین را رهگیری کنند و تیم‌های ورود به عرشه نیز برای جستجوی مواد هسته‌ایِ ادعایی آماده شدند. این عملیات تنها چند دقیقه پیش از اجرا متوقف شد؛ زمانی که افسران اطلاعاتی ثانویه در جریان یک بررسی الزامیِ پیش از ورود، گزارش هوش مصنوعی را با تصاویر خام ماهواره‌ای و اطلاعات سنتیِ انسانی تطبیق دادند. این بررسی ثانویه تأیید کرد که محموله بی‌خطر بوده و برچسب هسته‌ای بودن آن، یک دروغ کاملاً ساختگی از سوی نرم‌افزار بوده است.[1][4][6]

این یورشِ لغوشده، پیامدهای دیپلماتیک فوری میان واشنگتن و پکن به همراه داشته و تنش‌های موجود بر سر امنیت دریایی و استقرار نظامی در خاورمیانه را تشدید کرده است. مقامات دیپلماتیک چین این رهگیریِ نافرجام را به‌عنوان یک تنش‌زاییِ بی‌پروا به‌شدت محکوم کرده و استدلال کردند که اتکا به اطلاعاتِ خودکارِ تأییدنشده، نشان‌دهنده یک نقص ساختاری در سیاست‌گذاری دریایی آمریکاست. پکن رسماً به این حادثه اعتراض کرده و تأکید دارد که استقرار ابزارهای معیوب هوش مصنوعی در آب‌های مورد مناقشه، خطری غیرقابل‌قبول برای کشتیرانی تجاری جهانی و ثبات دوجانبه ایجاد می‌کند.[2][4]

در پاسخ به اعتراض دیپلماتیک و شناسایی داخلیِ نقص نرم‌افزاری، وزارت دفاع ایالات متحده یک بازبینی اضطراری را در تمامی پروتکل‌های ارزیابی تهدیدِ ادغام‌شده با هوش مصنوعی در صحنه‌های فعال نظامی آغاز کرد. سخنگویان نظامی به شکست سیستم خودکار در تفسیر دقیق داده‌های دریایی اذعان کردند، اما تأکید داشتند که فرآیند راستی‌آزمایی با «حضور انسان در حلقه تصمیم‌گیری» در نهایت طبق طراحیِ پیش‌بینی‌شده عمل کرده است. مقامات دفاعی معتقدند که بررسی ثانویه و الزامی توسط تحلیلگران انسانی، با موفقیت از یک تنش‌زاییِ غیرموجه جلوگیری کرده و ساختار فرماندهی فعلی را معتبر می‌سازد.[1][5]

تحلیلگران فناوری نظامی خاطرنشان می‌کنند که این حادثه، نخستین نمونهِ علناً تأییدشده از توهم هوش مصنوعی است که مستقیماً یک زنجیره عملیات نظامی را میان قدرت‌های بزرگ جهانی آغاز کرده است. این تشدید سریع، فشردگی شدیدِ زمان‌بندیِ تصمیم‌گیری در عملیات‌های مدرن دریایی را برجسته می‌کند. در شرایطی که ارتش‌ها به‌طور فزاینده‌ای سیستم‌های خودکار را برای تجزیه‌وتحلیل حجم عظیمی از داده‌های حسگرها با سرعتی فراتر از توان پردازش اپراتورهای انسانی به کار می‌گیرند، فرصتِ شناسایی و اصلاح خطاهای الگوریتمی پیش از اقدام عملی همچنان در حال کاهش است و آسیب‌پذیری‌های راهبردی جدیدی را به همراه می‌آورد.[1][3]

ابزار اطلاعاتیِ خاصی که در این حادثه نقش داشت، برای شناسایی رفتارهای غیرعادی کشتیرانی و تطبیق آن‌ها با شبکه‌های شناخته‌شدهِ اشاعه تسلیحاتی به‌منظور تسریع در تشخیص تهدید طراحی شده بود. با این حال، گزارش‌ها حاکی از آن است که این سیستم ارتباطی را میان انحراف‌های معمول کشتی چینی از مسیر بندر و یک شبکه شناخته‌شدهِ تدارکات هسته‌ای ایران توهم کرده است. این نرم‌افزار با تولید یک هشدار با ضریب اطمینان بالا که فاقد پایه و اساس واقعی بود، خطرات ذاتیِ استقرار مدل‌های زایشی را در محیط‌هایی نشان داد که در آن‌ها هشدارهای مثبت کاذب می‌توانند واکنش‌های نظامی فوری و غیرقابل‌بازگشتی را میان کشورهای دارای سلاح هسته‌ای به همراه داشته باشند.[2][6]

در پی این حادثه، پنتاگون استقرار این ابزار اطلاعاتیِ خاصِ هوش مصنوعی را تا زمان انجام یک حسابرسی قانونیِ کامل از داده‌های آموزشی و پارامترهای خروجی آن، موقتاً به حالت تعلیق درآورده است. هدف از این بازبینی، تعیین چگونگیِ ساخته‌شدن این تهدید هسته‌ای توسط سیستم و دلیل ناکامی فیلترهای خودکار اولیه در تشخیص این خطاست. در همین حال، پکن رسماً خواستار ایجاد یک کانال ارتباطی دوجانبه شده است که مشخصاً به راستی‌آزمایی هشدارهای تهدیدِ خودکار اختصاص داشته باشد؛ تلاشی که هدف آن جلوگیری از بروز درگیری‌های مسلحانه ناخواسته در آب‌های بین‌المللیِ مورد مناقشه بر اثر خطاهای نرم‌افزاریِ آینده است.[3][5]