پایان استفاده عملیاتی ارتش آمریکا از هوش مصنوعی آنتروپیک در پی مناقشه بر سر محدودیت‌های ایمنی

برای اینکه یک مدل هوش مصنوعی تجاری بتواند در شبکه‌های طبقه‌بندی‌شده ارتش ایالات متحده فعال باشد، توسعه‌دهنده آن باید دسترسی نامحدود به سامانه را برای تمام اهداف قانونی در اختیار دولت بگذارد. این شرط دیگر در مورد شرکت آنتروپیک (Anthropic) صدق نمی‌کند. وزارت دفاع آمریکا رسماً تمام استفاده‌های عملیاتی از محصولات این شرکت را متوقف کرده و به بن‌بست چندماهه بر سر مرزهای ایمنی هوش مصنوعی خاتمه داده است.[2][4]

یکی از مقام‌های این وزارتخانه در بیانیه‌ای طی هفته جاری اعلام کرد: «پنتاگون استفاده از محصولات آنتروپیک را متوقف کرده است.»[4][5]

این تأییدیه، دوره گذاری را که از ماه فوریه آغاز شده بود به پایان می‌رساند. این فرایند مستلزم جداسازی این مدل‌ها از پلتفرم‌های اطلاعاتی عمیقاً یکپارچه‌شده بود؛ از جمله سامانه هوشمند «مِیون» (Maven Smart System) متعلق به شرکت پالانتیر (Palantir). مدل کلود پیش از این به عنوان موتور اصلی پردازش تصاویر ماهواره‌ای و ویدیوهای پهپادی عمل می‌کرد.[2][3]

محور اصلی این اختلاف، «خط‌مشی استفاده قابل‌قبول» آنتروپیک بود که به‌کارگیری مدل‌هایش را در نظارت جمعی داخلی یا ساخت سلاح‌های کاملاً خودکار اکیداً ممنوع می‌کند. پیت هگسث، وزیر دفاع آمریکا، اوایل سال جاری خواستار لغو این تدابیر ایمنی شد. استدلال او این بود که محدودیت‌های اعمال‌شده از سوی شرکت‌های سازنده می‌تواند موجب توقف ناگهانی سیستم‌ها در حین عملیات‌های حیاتی شود و جان پرسنل نظامی را به خطر بیندازد.[1][2]

هنگامی که آنتروپیک از تغییر محدودیت‌های خود سر باز زد، پنتاگون این شرکت را «ریسک زنجیره تأمین برای امنیت ملی» اعلام کرد. این برچسب حقوقی که معمولاً برای کشورهای متخاصم به کار می‌رود، بخش‌های دفاعی و پیمانکاران را از به‌کارگیری نرم‌افزارهای آنتروپیک منع کرد. شرکت بلافاصله در دادگاه اقامه دعوی کرد و اقدام دولت را تلافی غیرقانونی و بی‌سابقه در برابر اصول ایمنی خود خواند.[2][4][5]

رویه قضایی نوین

این نبرد حقوقی در ۲۵ سپتامبر به اوج خود رسید؛ زمانی که دادگاه استیناف حوزه کلمبیا با رأی ۲ به ۱، اختیارات وزارت دفاع را تأیید کرد. دادگاه حکم داد که محدودیت‌های عامدانه روی محصولات ذیل تعریف قانونی «ریسک زنجیره تأمین» در قانون امنیت زنجیره تأمین خریدهای فدرال مصوب ۲۰۱۸ قرار می‌گیرد.[1]

دادگاه نتیجه گرفت که این قانون به عملکرد تأمین‌کننده توجه دارد، فارغ از اینکه انگیزه پشت آن چه باشد. حتی بدون سوءنیت، پیکربندی عمدی کلود توسط آنتروپیک برای رد برخی دستورها، مانع از انجام وظایفی می‌شد که دولت آنها را طبق قرارداد مجاز می‌دانست. این حکم سابقه‌ای حقوقی و مهم برای پیمانکاران فدرال پیرامون محدودیت‌های نرم‌افزاری تحت کنترل سازنده ایجاد می‌کند.[1]

دادگاه استیناف ادعای آنتروپیک مبنی بر اقدام تلافی‌جویانه پنتاگون علیه دیدگاه‌های اخلاقی شرکت را رد کرد و در عوض روی ریسک عملیاتی ناشی از نرم‌افزاری تمرکز نمود که از اجرای دستورات خودداری می‌کند. پیش‌تر دادگاهی در سان‌فرانسیسکو این ممنوعیت سراسری را مسدود کرده بود، اما حکم دادگاه تجدیدنظر آن را باطل کرد و مسیر را برای پاکسازی نهایی این نرم‌افزار توسط ارتش هموار ساخت.[1][2]

جداسازی زیرساخت‌های یکپارچه

با وجود تعیین مهلت اولیه تا ماه اوت برای حذف سیستم، شماری از پیمانکاران دفاعی و مقامات سابق نظامی فاش کردند که کلود تا اواخر سپتامبر همچنان به کار گرفته می‌شد. این هوش مصنوعی به‌طور گسترده برای جمع‌آوری داده‌های اطلاعاتی، تحلیل و برنامه‌ریزی عملیاتی در درگیری‌های نظامی اخیر علیه ایران مورد استفاده قرار گرفته بود. کارشناسان این تأخیر را ناشی از ادغام عمیق مدل در زیرساخت داده‌های حیاتی پنتاگون دانستند.[2][3]

لورن کان از «مرکز امنیت و فناوری‌های نوظهور» در دانشگاه جرج‌تاون پیش‌تر اشاره کرده بود که وقتی مدل‌های پیشرفته هوش مصنوعی در جریان‌های پیچیده اطلاعات نظامی تنیده می‌شوند، فرایند خارج کردن آن‌ها ذاتاً دشوار و پرچالش است. اتکای پنتاگون به کلود برای تدوین خلاصه‌های اطلاعاتی نشان داد که این فناوری تا چه حد در سلسله‌مراتب فرماندهی رسوخ کرده است.[2]

ارتباط آنتروپیک با ارتش در سال ۲۰۲۴ آغاز شد؛ زمانی که کلود به عنوان یکی از نخستین مدل‌های تجاری پیشرفته برای استفاده در شبکه‌های محرمانه تأیید شد. در آن زمان، پنتاگون پذیرفته بود که به چارچوب استفاده قابل‌قبول شرکت پایبند بماند. برهم‌خوردن سریع این توافق نشان می‌دهد که چگونه تمایل فزاینده ارتش به بهره‌گیری نامحدود از هوش مصنوعی زاینده، از چارچوب‌های اخلاقی اولیه فراتر رفته است.[4][5]

وزارت دفاع برای پر کردن خلأ ناشی از خروج آنتروپیک، استقرار پلتفرم‌های جایگزین را در شبکه‌های طبقه‌بندی‌شده خود سرعت بخشیده است. مقامات دفاعی گزارش می‌دهند که اکنون مدل‌های توسعه‌یافته توسط اوپن‌ای‌آی (OpenAI)، گوگل و xAI جایگزین کلود در تحلیل داده‌ها و جمع‌آوری اطلاعات شده‌اند؛ انتقالی که بازآرایی قابل‌توجهی در همکاری‌های تجاری ارتش در حوزه هوش مصنوعی به شمار می‌رود.[2]

پذیرش سریع مدل‌های رقیب، وابستگی روزافزون ارتش به هوش مصنوعی زاینده برای پردازش حجم عظیم داده‌های میدان نبرد را نشان می‌دهد. این رویکرد همچنین تمایل سایر آزمایشگاه‌های پیشرو به همسویی با الزامات عملیاتی پنتاگون را آشکار می‌کند؛ شرکت‌هایی که درست در نقطه‌ای وارد شدند که آنتروپیک حاضر به مصالحه بر سر چارچوب‌های ایمنی خود نبود.[2][3]

تناقض حاکمیت فناوری

برای مدیران کسب‌وکارهایی که تأمین‌کنندگان هوش مصنوعی را ارزیابی می‌کنند، این رویکرد پنتاگون نشان‌دهنده شکاف عمیق‌تر میان شرکت‌های متمرکز بر ایمنی و نهادهای دولتی خواهان دسترسی نامحدود است. امتناع آنتروپیک از کنار گذاشتن خطوط قرمز ایمنی، به قیمت از دست رفتن یک قرارداد کلان دولتی و آسیب به جایگاهش در بازار خریدهای فدرال تمام شد. این شرکت هم‌اکنون گزینه‌های حقوقی خود را پس از شکست در دادگاه استیناف بررسی می‌کند.[1][2]

دولت آمریکا به‌طور فزاینده‌ای از اختیارات خود در زمینه امنیت زنجیره تأمین به عنوان اهرم فشار در مذاکره با شرکت‌های داخلی استفاده می‌کند. برای شرکت‌های فناوری همکار با نهادهای فدرال، این وضعیت فضایی را پدید می‌آورد که در آن شروط قرارداد در خصوص کارکردهای محصول عملاً غیرقابل‌مذاکره خواهد بود. این نام‌گذاری، پذیرش شروط را از طریق تهدید به قرار گرفتن در فهرست سیاه اجباری می‌سازد.[1]

نتیجه این مناقشه، آزمایشگاه‌های پیشرو هوش مصنوعی را با پارادوکس پیچیده‌ای در زمینه حاکمیت فناوری روبرو می‌کند. همان ابزارهای ایمنی که برای حفاظت از عموم و انطباق با ارزش‌های دموکراتیک طراحی شده‌اند، اکنون ممکن است به مانع اصلی برای حضور در ساختار امنیت ملی بدل شوند. توسعه‌دهندگان باید تصمیم بگیرند که اصول اخلاقی خود را حفظ کنند یا به دنبال شراکت‌های پرسود دفاعی باشند.[2]

آنتروپیک همواره تأکید کرده که صدور مجوز برای استفاده از این فناوری در نظارت جمعی با ارزش‌های دموکراتیک ناسازگار است. با ایستادگی بر این موضع، شرکت عملاً خود را از ساختار اطلاعاتی-نظامی آمریکا کنار گذاشته است. پیامدهای مالی بلندمدت این محرومیت همچنان مبهم است، در حالی که این استارتاپ به رقابت در بازارهای تجاری ادامه می‌دهد.[2][4]

صنایع دفاعی بزرگ‌تر اکنون موظف به بازبینی وابستگی‌های نرم‌افزاری خود هستند تا مطابقت با دستورالعمل‌های پنتاگون را تضمین کنند. از آنجا که برچسب ریسک زنجیره تأمین برای تمامی پیمانکاران دفاعی لازم‌الاجراست، هر شرکتی که از رابط‌های برنامه‌نویسی آنتروپیک در پروژه‌های نظامی استفاده می‌کرده، باید بی‌درنگ به گزینه‌های مورد تأیید روی آورد؛ تحولی که استراتژی‌های تأمین نرم‌افزار را در سراسر این بخش دگرگون خواهد کرد.[1][2]