آیا پیمان منع تسلیحات خودکار، میدان نبرد را تنها به دولت‌های غیردموکراتیک واگذار خواهد کرد؟

آنچه همه در مورد کمپین ممنوعیت «ربات‌های قاتل» اشتباه می‌فهمند، این فرض است که این کمپین نشان‌دهنده یک پیروزی اخلاقی ساده است، بسیار شبیه به ممنوعیت‌های جهانی تسلیحات شیمیایی یا مین‌های زمینی. تصور عمومی، تصاویری از اندرویدهای سرکش را تداعی می‌کند که محاسبات اخلاقی را بدیهی جلوه می‌دهد. اما واقعیت تنظیم سامانه‌های تسلیحاتی خودکار مرگبار (LAWS) بسیار پیچیده‌تر است. در راهروهای دیپلماتیک پرمخاطره سازمان ملل، مهم‌ترین سؤال صرفاً این نیست که آیا ماشین‌ها باید اجازه داشته باشند تصمیمات مرگ و زندگی بگیرند. در عوض، استراتژیست‌های دفاعی با یک پارادوکس دلهره‌آور دست و پنجه نرم می‌کنند: آیا یک ممنوعیت بین‌المللی با نیت خوب، واقعاً از گسترش تسلیحات خودکار جلوگیری خواهد کرد، یا صرفاً تضمین می‌کند که تنها دولت‌های غیردموکراتیک در میدان‌های نبرد آینده آنها را در اختیار خواهند داشت؟[7]

ادعای اصلی که این بدبینی را هدایت می‌کند، ریشه در معضل امنیتی کلاسیک و ماهیت منحصر به فرد هوش مصنوعی دارد. واقع‌گرایان استراتژیک استدلال می‌کنند که یک پیمان بین‌المللی برای ممنوعیت تسلیحات خودکار به ناچار از یک شکاف تأیید مهلک رنج خواهد برد. برخلاف تأسیسات غنی‌سازی هسته‌ای یا کارخانه‌های تولید مواد شیمیایی که نیازمند زیرساخت‌های فیزیکی عظیمی هستند و می‌توانند توسط بازرسان بین‌المللی نظارت شوند، الگوریتم‌های هوش مصنوعی و کدهای نرم‌افزاری نامرئی هستند. اگر ملت‌های دموکراتیک خود را به یک ممنوعیت سخت‌گیرانه متعهد کنند، ممکن است ناخواسته برتری تکنولوژیک را به رژیم‌های اقتدارگرا واگذار کنند که بدون نظارت داخلی، مطبوعات آزاد یا سازوکارهای شفاف انطباق عمل می‌کنند. از این دیدگاه، ممنوعیت، سلاح را حذف نمی‌کند؛ بلکه تنها کسانی را که طبق قوانین عمل می‌کنند، خلع سلاح می‌کند.[5][7]

این اضطراب استراتژیک در حال حاضر با یک فشار دیپلماتیک گسترده و هماهنگ برای غیرقانونی کردن این سامانه‌ها قبل از تثبیت آنها در زرادخانه‌های مدرن، در حال برخورد است. بیش از ۱۰۰ کشور، با حمایت کمیته بین‌المللی صلیب سرخ (ICRC) و ائتلاف‌های جامعه مدنی مانند «توقف ربات‌های قاتل»، خواستار یک سند الزام‌آور قانونی تا سال ۲۰۲۶ هستند. این حامیان استدلال می‌کنند که واگذاری تصمیم کشتن به یک الگوریتم مبتنی بر حسگر، حقوق اساسی بشر و قوانین درگیری‌های مسلحانه را نقض می‌کند. برای این گروه‌ها، بحث فقط در مورد کاربرد نظامی نیست، بلکه در مورد حفظ کرامت انسانی در جنگ و اطمینان از اینکه تصمیم برای گرفتن جان انسان، به عاملیت اخلاقی انسان گره خورده باقی بماند.[2][3][6]

برای درک اهمیت این بحث، ابتدا باید مکانیسم خودمختاری در جنگ‌های مدرن را درک کرد. تسلیحات خودکار ماشین‌های حساس نیستند؛ آنها ترکیبات پیچیده‌ای از حسگرها، الگوریتم‌های یادگیری ماشینی و مهمات هستند. سامانه‌هایی مانند مهمات پرسه زن، انبوه پیشرفته پهپادها و شبکه‌های دفاع موشکی خودکار طراحی شده‌اند تا اهداف را بدون دخالت انسان جستجو، شناسایی و درگیر کنند. پس از فعال‌سازی، ماشین کاملاً به برنامه‌ریزی و داده‌های محیطی خود برای اجرای چرخه هدف‌گیری متکی است. این تغییر، خودمختاری را در هسته زنجیره کشتار قرار می‌دهد، نه اینکه صرفاً از هوش مصنوعی برای عملکردهای جانبی مانند ناوبری یا جمع‌آوری اطلاعات استفاده شود.[1][5]

مزیت نظامی این خودمختاری غیرقابل انکار است، و دقیقاً به همین دلیل است که دولت‌ها برای کنار گذاشتن آن تردید دارند. ماشین‌ها داده‌ها را به طور تصاعدی سریع‌تر از شناخت انسان پردازش می‌کنند. آنها می‌توانند به طور یکپارچه در محیط‌های بسیار مورد مناقشه عمل کنند، جایی که جنگ الکترونیک پیوندهای ارتباطی سنتی را مختل کرده و ارتباط بین یک اپراتور انسانی از راه دور و یک پهپاد را قطع می‌کند. علاوه بر این، الگوریتم‌ها از خستگی، وحشت یا ترس رنج نمی‌برند – عواملی که اغلب منجر به خطاهای انسانی غم‌انگیز و جنایات جنگی در هرج و مرج نبرد می‌شوند. برای فرماندهان نظامی، جذابیت سلاحی که می‌تواند از چرخه تصمیم‌گیری دشمن پیشی بگیرد در حالی که در خاموشی ارتباطی عمل می‌کند، جام مقدس برتری تاکتیکی است.[5][7]

با این حال، دقیقاً همین فقدان احساسات انسانی است که حامیان بشردوستانه را می‌ترساند. قوانین درگیری‌های مسلحانه مستلزم آن است که رزمندگان بین اهداف نظامی مشروع و غیرنظامیان تمایز قائل شوند و مزیت نظامی مورد انتظار را در برابر پتانسیل آسیب جانبی بسنجند. حامیان بشردوستانه استدلال می‌کنند که این اصول تمایز و تناسب نیازمند قضاوت و شفقت زمینه‌ای هستند – ویژگی‌هایی که نمی‌توان آنها را در یک ماشین کدگذاری کرد. بر اساس بند مارتنز، که یک اصل اساسی در حقوق بین‌الملل بشردوستانه است، تسلیحاتی که فاقد کنترل معنادار انسانی هستند یا خطر آسیب بی‌رویه دارند، ذاتاً غیرقانونی تلقی می‌شوند زیرا فرمان‌های وجدان عمومی را نقض می‌کنند.[3][4]

با اذعان به اصطکاک بین ضرورت نظامی و نگرانی‌های بشردوستانه، اجماع دیپلماتیک به آرامی به سمت یک رویکرد «دو لایه» در کنوانسیون سازمان ملل در مورد تسلیحات متعارف خاص (CCW) در حال چرخش است. به جای ممنوعیت کامل تمام هوش مصنوعی نظامی، این چارچوب پیشنهاد می‌کند سامانه‌هایی را که اثرات آنها قابل پیش‌بینی، درک یا توضیح نیست، به شدت ممنوع کند. لایه دوم سایر سامانه‌های خودکار را به شدت تنظیم می‌کند و از آنها می‌خواهد «کنترل معنادار انسانی» را حفظ کنند. این مصالحه تلاش می‌کند تا تعادل را برقرار کند و به ارتش‌ها اجازه دهد از هوش مصنوعی برای سامانه‌های دفاعی استفاده کنند در حالی که یک خط قرمز در برابر الگوریتم‌های تهاجمی و غیرقابل پیش‌بینی ترسیم می‌شود.[1][4][6]

با این حال، تعریف آنچه «کنترل معنادار انسانی» را تشکیل می‌دهد، یک منطقه خاکستری حقوقی و فنی عمیقاً مورد مناقشه باقی مانده است. آیا انسانی که دکمه‌ای را برای تأیید یک حمله الگوریتمی از پیش محاسبه شده فشار می‌دهد، کنترل واقعی را اعمال می‌کند، یا صرفاً به عنوان یک مهر تأیید برای تصمیم یک ماشین عمل می‌کند؟ اگر یک اپراتور تنها چند ثانیه فرصت داشته باشد تا هدف انتخاب شده توسط هوش مصنوعی را وتو کند، بار شناختی، احتمال زیادی را ایجاد می‌کند که آنها به سادگی به الگوریتم اعتماد کنند – پدیده‌ای که به عنوان سوگیری خودکارسازی شناخته می‌شود. کارشناسان دفاعی هشدار می‌دهند که اگر تعریف قانونی کنترل بیش از حد سخت‌گیرانه باشد، سامانه‌های دفاعی را برای مؤثر بودن در برابر موشک‌های مافوق صوت ورودی یا انبوه پهپادهای خودکار، بسیار کُند خواهد کرد.[5][7]

این امر بحث را به استدلال متقابل واقع‌گرایانه در مورد سرعت هوش مصنوعی در جنگ باز می‌گرداند. اگر یک دولت دموکراتیک، که به شدت به یک پیمان جدید پایبند است، برای هر درگیری به یک انسان در حلقه نیاز داشته باشد، زمان واکنش آنها به یک گلوگاه حیاتی تبدیل می‌شود. در یک درگیری فرضی علیه یک دشمن که از انبوه پهپادهای کاملاً خودکار استفاده می‌کند، دفاعیات تحت کنترل انسان به سادگی توسط حجم و سرعت حمله غرق خواهد شد. تحلیلگران دفاعی اشاره می‌کنند که در یک میدان نبرد با سرعت بالا، طرفی که توسط زمان واکنش انسانی محدود شده است، ناگزیر بازنده خواهد بود. بنابراین، یک ممنوعیت یک‌جانبه می‌تواند تضمین کند که ملت‌های قانون‌مدار خلع سلاح شوند.[5][7]

مشکل تأیید، این معضل امنیتی را تشدید می‌کند. پیمان‌های کنترل تسلیحات به طور تاریخی به توانایی تأیید انطباق متکی هستند – شمارش کلاهک‌های هسته‌ای، بازرسی سیلوها یا نظارت بر ذخایر شیمیایی. اما یک نهاد بین‌المللی چگونه می‌تواند یک به‌روزرسانی نرم‌افزاری را بازرسی کند؟ سخت‌افزار فیزیکی یک پهپاد خودکار با یک پهپاد هدایت‌شده از راه دور یکسان است؛ تفاوت کاملاً در کد نهفته است. یک دولت می‌تواند به راحتی یک پیمان ممنوعیت LAWS را امضا کند، ناوگانی از پهپادهای کنترل از راه دور به ظاهر سازگار را حفظ کند، و سپس در آستانه درگیری، یک به‌روزرسانی نرم‌افزاری از طریق هوا ارسال کند تا خودمختاری کامل را به آنها اعطا کند.[7]

علاوه بر این، فناوری زیربنایی که تسلیحات خودکار را هدایت می‌کند، ذاتاً دوگانه است و کنترل آن را از طریق چارچوب‌های سنتی عدم اشاعه غیرممکن می‌سازد. همان الگوریتم‌های بینایی ماشینی که به یک خودروی خودران اجازه می‌دهند در یک تقاطع شلوغ حرکت کند، می‌توانند برای کمک به یک مهمات پرسه زن برای حرکت در میدان نبرد تطبیق داده شوند. بخش فناوری تجاری، نه مجتمع نظامی-صنعتی، محرک پیشرفت سریع هوش مصنوعی است. تلاش برای ممنوعیت کاربرد نظامی این فناوری‌ها بدون خفه کردن نوآوری تجاری، یک چالش نظارتی تقریباً غیرقابل حل برای سیاست‌گذاران ایجاد می‌کند.[5][7]

با وجود این موانع استراتژیک و فنی عظیم، طرفداران ممنوعیت استدلال می‌کنند که نباید «کمال، دشمن خوبی باشد». آنها به موفقیت تاریخی انگ‌زنی به تسلیحات خاص، مانند عوامل بیولوژیکی و تسلیحات لیزری کورکننده، اشاره می‌کنند. حتی اگر تأیید ناقص باشد و دولت‌های سرکش ممکن است تقلب کنند، ایجاد یک هنجار بین‌المللی قوی، یک تابوی قدرتمند ایجاد می‌کند. این انگ می‌تواند پیمانکاران اصلی دفاعی را از توسعه فناوری باز دارد، به مؤسسات مالی فشار آورد تا از شرکت‌هایی که آنها را می‌سازند، سلب سرمایه کنند، و یک مبنای قانونی برای پاسخگو کردن متخلفان فراهم کند.[2][6]

در نهایت، بحث بر سر پیمان ممنوعیت تسلیحات خودکار، یک محاسبه عمیق بین الزامات اخلاقی و بقای ژئوپلیتیکی را تحمیل می‌کند. ممنوعیت ماشین‌هایی که می‌کشند، یک آرمان والا است که با هسته کرامت انسانی صحبت می‌کند. اما حقوق بین‌الملل تنها زمانی به طور مؤثر عمل می‌کند که همه بازیگران را به طور مساوی ملزم کند و بتواند به طور دقیق تأیید شود. تا زمانی که جامعه جهانی نتواند یک چارچوب نظارتی طراحی کند که ماهیت نامرئی نرم‌افزار و سرعت بی‌رحمانه جنگ الگوریتمی را در نظر بگیرد، ترس از یک میدان نبرد نامتقارن همچنان پیمان‌هایی را که برای محافظت از بشریت طراحی شده‌اند، متوقف خواهد کرد.[1][7]