مقایسه راهکارهای مهار هوش مصنوعی: کلید اضطراری فنی در برابر توافق‌های شفافیت دیپلماتیک

در ۲۱ سپتامبر ۲۰۲۶، در جریان مذاکرات مقدماتی در نیویورک و در آستانه دیدار روسای جمهور آمریکا و چین، واشنگتن پیشنهاد ایجاد یک سازوکار مشترک برای «اطلاع‌رسانی متقابل» درباره حوادث هوش مصنوعی را به پکن ارائه کرد. این پیشنهاد که مشخصاً بر تهدیدهای دارای پیامدهای امنیت ملی تمرکز دارد، نشان‌دهنده تغییر رویکرد از راهکارهای صرفاً فنی به سمت دیپلماسی پیشگیرانه است. سیاست‌گذاران در حال درک این واقعیت هستند که مهار قدرتمندترین فناوری جهان، تنها با تکیه بر کدهای کامپیوتری ممکن نیست و نیازمند خطوط ارتباطی مستقیم میان قدرت‌های رقیب است.[1]

این چرخش دیپلماتیک در حالی رخ می‌دهد که در افکار عمومی و رسانه‌ها، بحث کنترل هوش مصنوعی غالباً با ایده «کلید قطع اضطراری» (Kill Switch) گره خورده است. بسیاری از مردم با یادآوری فیلم‌های علمی‌تخیلی مانند «نابودگر» و شبکه «اسکای‌نت»، تصور می‌کنند که تنها راه نجات بشریت، تعبیه یک دکمه فیزیکی یا نرم‌افزاری برای خاموش کردن فوری سیستم‌های هوش مصنوعی در زمان خروج آن‌ها از کنترل انسان است. این ایده جذاب، به هسته اصلی بسیاری از بحث‌های قانون‌گذاری در زمینه ایمنی هوش مصنوعی تبدیل شده است.[2]

با این حال، بررسی دقیق‌تر مکانیسم کلید اضطراری نشان می‌دهد که فاصله زیادی میان این تصورات سینمایی و واقعیت‌های فنی وجود دارد. کلید قطع اضطراری در سیستم‌های پیچیده امروزی، یک رابط کاربری ساده نیست؛ بلکه نیازمند معماری عمیقی است که بتواند در کسری از ثانیه، پردازش‌ها را متوقف کرده و دسترسی مدل به شبکه‌های خارجی را مسدود کند.

پرسش اساسی این است که آیا چنین مکانیزمی واقعاً می‌تواند مانع از یک حمله سایبری یا فیزیکی توسط یک هوش مصنوعی خودمختار شود، یا تنها یک مسکن موقت برای آرام کردن افکار عمومی است؟[2]

متخصصان امنیت سایبری هشدار می‌دهند که اتکای صرف به کلید قطع اضطراری می‌تواند توهم امنیت ایجاد کند. اگر یک مدل هوش مصنوعی به اندازه کافی هوشمند شود که بتواند از کنترل خارج گردد، احتمالاً قادر خواهد بود مسیرهای توقف اضطراری خود را نیز شناسایی و غیرفعال کند. علاوه بر این، در مدل‌های توزیع‌شده که در هزاران سرور مختلف کپی شده‌اند، فشردن یک کلید مرکزی عملاً غیرممکن است. به همین دلیل، مهندسان معتقدند که ترمزهای فنی، هرچند ضروری‌اند، اما به تنهایی برای مهار سیستم‌هایی با قابلیت‌های ناشناخته کافی نیستند.[2]

دقیقاً به دلیل همین محدودیت‌های فنی و ماهیت غیرقابل پیش‌بینی الگوریتم‌هاست که ایده اطلاع‌رسانی دیپلماتیک اهمیت حیاتی پیدا کرده است. خطر اصلی همیشه شورش آگاهانه یک الگوریتم نیست، بلکه خطاهای تحلیلی آن است که می‌تواند به سوءتفاهم‌های مرگبار میان دولت‌ها منجر شود.

گزارش‌های اخیر نشان می‌دهد که چگونه اتکای ارتش‌ها به تحلیل‌های ماشینی می‌تواند فاجعه‌بار باشد؛ در یک مورد تکان‌دهنده، یک چت‌بات هوش مصنوعی که توسط ارتش آمریکا استفاده می‌شد، با ترکیب داده‌های منبع‌باز و سیگنال‌های مخفی، به اشتباه نتیجه‌گیری کرد که یک کشتی تجاری چینی حامل قطعات برنامه سلاح هسته‌ای است.[3]

این خطای الگوریتمی، ارتش ایالات متحده را تا آستانه توقیف کشتی و شعله‌ور کردن آتش یک جنگ تمام‌عیار با چین پیش برد، پیش از آنکه مقامات انسانی متوجه منشأ ماشینی و نادرست این گزارش شوند. در چنین سناریوهایی، یک کلید قطع اضطراری هیچ کمکی نمی‌کند، زیرا سیستم از نظر فنی در حال انجام وظیفه تعریف‌شده خود است و خطای آن تنها در سطح استنتاج رخ داده است. در اینجا، تنها یک مکانیسم اطلاع‌رسانی متقابل و شفافیت دیپلماتیک می‌تواند زمان حیاتی لازم را برای تأیید انسانی فراهم کند.[3]

پیشنهاد اخیر ایالات متحده به چین برای ایجاد سازوکار اطلاع‌رسانی متقابل، تلاشی برای ایجاد همین زمان حیاتی است. این پیشنهاد در حالی مطرح می‌شود که دو کشور درگیر رقابت شدیدی بر سر توسعه مدل‌های هوش مصنوعی، تامین تراشه‌های پیشرفته و حتی اعمال تعرفه‌های تجاری هستند. ایجاد یک «خط تلفن قرمز» برای حوادث هوش مصنوعی، به هر دو طرف اجازه می‌دهد تا پیش از واکنش نظامی به یک رویداد مشکوک، ریشه الگوریتمی آن را بررسی کنند و از تشدید ناخواسته تنش‌ها جلوگیری نمایند.[1]

در نهایت، مقایسه این دو رویکرد نشان می‌دهد که مهار هوش مصنوعی نیازمند یک استراتژی ترکیبی است. کلیدهای اضطراری فنی، با وجود تمام محدودیت‌ها و آسیب‌پذیری‌هایشان، برای کنترل مدل‌های تجاری در سطح خرد ضروری‌اند. اما در سطح کلان و ژئوپلیتیک، جایی که خطاهای ماشینی می‌توانند به جنگ‌های ویرانگر منجر شوند، توافق‌های شفافیت دیپلماتیک تنها راهکار عملی به نظر می‌رسند. مذاکرات پیش‌رو میان رهبران آمریکا و چین نشان خواهد داد که آیا این دو ابرقدرت می‌توانند پیش از وقوع یک فاجعه الگوریتمی، بر سر قواعد بازی به توافق برسند یا خیر.[1]