درخواست فوری سازمان ملل و صلیب سرخ برای وضع قوانین بین‌المللی درباره سامانه‌های تسلیحاتی «ربات‌های قاتل»

در حالی که قوانین بین‌المللی همچنان در قرن بیستم باقی مانده‌اند، میدان نبرد به سرعت در حال ادغام هوش مصنوعی است. روز سه‌شنبه، سازمان ملل متحد و کمیته بین‌المللی صلیب سرخ (ICRC) هشدار جدی صادر کردند که جهان در مورد استقرار سامانه‌های تسلیحاتی خودکار مرگبار، «به طور خطرناکی به عبور از یک خط قرمز اخلاقی نزدیک شده است».[1][2]

این درخواست مشترک که توسط آنتونیو گوترش، دبیرکل سازمان ملل، و میریانا سپولیاریچ، رئیس کمیته بین‌المللی صلیب سرخ، ارائه شد، خواستار یک معاهده بین‌المللی فوری و الزام‌آور قانونی برای محدود کردن استفاده از ماشین‌هایی است که قادرند بدون دخالت انسان، اهداف را انتخاب کرده و نیروی مرگبار اعمال کنند. این سازمان‌ها تأکید کردند که شکاف بین ظرفیت‌های فناوری و محدودیت‌های نظارتی به طور قابل توجهی گسترش یافته و خطرات برای جمعیت‌های غیرنظامی را تشدید کرده است.[2][3]

سازوکار مورد نگرانی، نه پهپادهای کنترل از راه دور است که هنوز برای شلیک به اپراتور انسانی متکی هستند، و نه سامانه‌های دفاعی خودکار مانند فالانکس (Phalanx) یا گنبد آهنین (Iron Dome) که مهمات ورودی را رهگیری می‌کنند. تمرکز بر سامانه‌های تهاجمی است که از الگوریتم‌های یادگیری ماشینی و داده‌های حسگر برای شناسایی، ردیابی و درگیری مستقل با اهداف انسانی استفاده می‌کنند.[2][7]

سازمان ملل و صلیب سرخ به طور خاص خواستار دو نوع ممنوعیت هستند. اول، ممنوعیت کامل تسلیحات خودکار غیرقابل پیش‌بینی – آنهایی که به دلیل ماهیت «جعبه سیاه» الگوریتم‌هایشان، رفتار هدف‌گیری دقیق آنها توسط اپراتور قابل پیش‌بینی نیست. دوم، ممنوعیت سخت‌گیرانه هرگونه سامانه خودکاری که برای هدف قرار دادن مستقیم انسان‌ها طراحی شده است؛ رویه‌ای که صلیب سرخ استدلال می‌کند زندگی انسان را به «داده، الگوریتم، حسگر و عملیات ماشینی» تقلیل می‌دهد.[2]

فوریت این درخواست ناشی از گسترش سریع هوش مصنوعی در میدان‌های نبرد مدرن است. در حالی که کارشناسان اشاره می‌کنند هیچ مورد تأیید شده‌ای مبنی بر تصمیم‌گیری مستقل یک سلاح کاملاً خودکار برای کشتن یک هدف انسانی وجود نداشته است، گزارش‌های تأیید نشده حاکی از آن است که پهپادهای هدایت‌شده با هوش مصنوعی در حال حاضر در مناطق درگیری فعال از جمله اوکراین، سودان و خاورمیانه در حال آزمایش و استقرار هستند.[2][4]

به عنوان مثال، در اوکراین، وسایل نقلیه رباتیک زمینی عمدتاً برای تدارکات و تخلیه پزشکی به منظور حفظ نیروی انسانی استفاده شده‌اند. با این حال، برنامه‌ریزان نظامی به طور فزاینده‌ای به دنبال افزایش سامانه‌های رباتیک مسلح هستند تا فشار بر واحدهای پیاده‌نظام با تعداد کمتر را کاهش دهند. سازمان ملل خاطرنشان می‌کند که رقابت به سوی خودمختاری بیشتر، که با مزایای تاکتیکی سرعت و مقیاس هدایت می‌شود، از قبل به خوبی در جریان است.[4]

هسته اصلی بحث حقوقی بر قانون بین‌المللی بشردوستانه (IHL) استوار است که رفتار در درگیری‌های مسلحانه را تنظیم می‌کند. قانون بین‌المللی بشردوستانه ایجاب می‌کند که ارتش‌ها به اصول تمایز – تفکیک بین رزمندگان و غیرنظامیان – و تناسب، پایبند باشند و اطمینان حاصل کنند که خسارات جانبی نسبت به مزیت نظامی کسب شده، بیش از حد نباشد.[2][7]

سازمان‌های بشردوستانه استدلال می‌کنند که ماشین‌ها ذاتاً فاقد قضاوت زمینه‌ای لازم برای اعمال این اصول هستند. در یک منطقه درگیری آشفته، یک رزمنده ممکن است تسلیم شود یا زخمی گردد، که فوراً وضعیت حقوقی او را به یک فرد تحت حمایت تغییر می‌دهد. یک الگوریتم یادگیری ماشینی، هر چقدر هم که پیچیده باشد، در تفسیر رفتارهای ظریف انسانی که نشان‌دهنده تسلیم یا وضعیت غیرنظامی است، دچار مشکل می‌شود.[2][5]

تلاش برای وضع مقررات با موانع ژئوپلیتیکی قابل توجهی روبرو است. بحث‌ها در مورد قوانین تسلیحات خودکار از سال ۲۰۱۴ تحت چارچوب کنوانسیون سلاح‌های متعارف خاص (CCW) در ژنو ادامه داشته است. با این حال، پیشرفت به طور مداوم توسط تعداد کمی از قدرت‌های نظامی بزرگ، از جمله ایالات متحده و روسیه، متوقف شده است؛ آنها استدلال می‌کنند که قوانین بین‌المللی موجود برای حاکمیت بر استفاده از هوش مصنوعی کافی است.[6]

این کشورها تمایلی به موافقت با ممنوعیت کامل ندارند، زیرا این ممنوعیت می‌تواند توسعه فناوری‌های دفاعی مشروع را خفه کند یا مزیت استراتژیک را به رقبای ژئوپلیتیکی واگذار نماید. آنها معتقدند که هوش مصنوعی در صورت ادغام صحیح با نظارت انسانی، می‌تواند دقت هدف‌گیری را بهبود بخشد و تلفات غیرنظامی را کاهش دهد.[6]

با وجود این مقاومت، سازمان ملل و صلیب سرخ در آستانه یک فرصت حیاتی، فشارها را افزایش می‌دهند. قرار است مذاکره‌کنندگان در نوامبر ۲۰۲۶ (آبان/آذر ۱۴۰۵) در ژنو برای کنفرانس بازنگری CCW ملاقات کنند؛ این سازمان‌ها آن را «واضح‌ترین مسیر موجود» برای حرکت به سوی قوانین حقوقی الزام‌آور توصیف می‌کنند. این نشست پس از یک جلسه مقدماتی گروه کارشناسان دولتی سازمان ملل که برای اواخر آگوست و اوایل سپتامبر برنامه‌ریزی شده است، برگزار خواهد شد.[1][4]

این درخواست مشترک اشاره می‌کند که حتی معماران این فناوری نیز خواستار محدودیت‌هایی هستند. کارشناسان خلع سلاح خاطرنشان می‌کنند که خود تولیدکنندگان تسلیحات به دنبال شفافیت در مورد مسئولیت‌های حقوقی و اخلاقی مرتبط با سامانه‌های هدف‌گیری خودکار هستند.[2][4]

در نهایت، سازمان ملل و صلیب سرخ استدلال می‌کنند که تصمیم برای گرفتن جان یک انسان باید برای همیشه در اختیار یک انسان باقی بماند. با نزدیک شدن به کنفرانس نوامبر، جامعه بین‌المللی با فرصتی در حال بسته شدن روبرو است تا مقررات پیشگیرانه را قبل از آنکه گسترش تسلیحات خودکار مرگبار، تلاش‌های کنترل تسلیحات را منسوخ کند، وضع نماید.[2][5]