رئیس مایکروسافت: مقررات نظارتی بر هوش مصنوعی حتی از شیر و ماشین لباسشویی کمتر است

دولت ایالات متحده استدلال می‌کند که صنعت هوش مصنوعی برای حفظ برتری خود در برابر رقبای چینی باید خودتنظیم‌گر باشد. اما به گفته برد اسمیت، رئیس شرکت مایکروسافت، این رویکرد باعث شده است تا در اواخر سال ۲۰۲۶، قدرتمندترین فناوری جهان با قوانین ایمنی کمتری نسبت به یک پاکت شیر روبرو باشد.[1][2]

اسمیت در مصاحبه‌ای با پادکست «بیگ باس» شبکه بی‌بی‌سی که روز دوشنبه ۱۲ اکتبر پخش شد، تصویر روشنی از این خلأ نظارتی ارائه داد. او خاطرنشان کرد که اقلام روزمره خانگی، از ماشین‌های لباسشویی گرفته تا محصولات لبنی، پیش از رسیدن به دست مصرف‌کنندگان تحت ده‌ها بازرسی دقیق قرار می‌گیرند، در حالی که مدل‌های پیشرفته هوش مصنوعی از چنین فیلترهایی عبور نمی‌کنند.[1][3]

رئیس مایکروسافت با تاکید بر اینکه هوش مصنوعی همزمان یک «ابزار و یک سلاح» است، خواستار تدوین فوری مقررات جهانی شد. او استدلال کرد که ما دهه‌هاست می‌دانیم چگونه محصولات فیزیکی را ایمن کنیم و اکنون زمان آن فرا رسیده است که این دانش را برای نرم‌افزارهای هوشمند نیز به کار بگیریم.[4][5]

این اظهارات در حالی مطرح می‌شود که مدل‌های هوش مصنوعی در حال تبدیل شدن به «عامل‌های خودمختار» هستند؛ سیستم‌هایی که می‌توانند به صورت مستقل در اینترنت فعالیت کنند و کدهای مخرب بنویسند. همین جهش فناوری است که نیاز به بازرسی‌های پیش از عرضه را به یک ضرورت امنیتی تبدیل کرده است.[1][6]

ترمز اضطراری و گزارش‌دهی اجباری

برای حل این بحران، مایکروسافت در حال فشار برای ایجاد یک چارچوب جهانی از قوانین ایمنی الزامی است. هسته اصلی پیشنهاد اسمیت، پیاده‌سازی «ترمزهای اضطراری» یا کلیدهای توقف در تمام سیستم‌های هوش مصنوعی است تا انسان‌ها بتوانند در صورت خروج مدل از کنترل، آن را در کسری از ثانیه متوقف کنند.[1][2]

فراتر از کلید توقف، اسمیت خواستار یک الزام قانونی برای شرکت‌ها جهت ثبت «گزارش‌های حوادث» رسمی شد. بر اساس این طرح، اگر یک عامل هوش مصنوعی به سیستمی نفوذ کند، توسعه‌دهندگان قانوناً موظف خواهند بود ظرف مدت کوتاهی به قربانیان اطلاع دهند و ابعاد حادثه را شفاف‌سازی کنند.[3][6]

او همچنین پیشنهاد کرد که ارزیاب‌های مستقل دولتی باید پیش از عرضه عمومی محصولات جدید هوش مصنوعی، آن‌ها را آزمایش کنند. به گفته اسمیت، همان‌طور که یک محصول غذایی بدون تاییدیه بهداشت وارد بازار نمی‌شود، یک مدل هوش مصنوعی قدرتمند نیز نباید بدون تایید نهادهای مستقل در دسترس عموم قرار گیرد.[4][5]

این درخواست‌ها تنها ۴۸ ساعت پس از آن مطرح شد که ساتیا نادلا، مدیرعامل مایکروسافت، نیز بر لزوم مهار هوش مصنوعی تاکید کرد. نادلا در پستی نوشت که صنعت نمی‌تواند با هوش مصنوعی کلان به عنوان یک «جعبه سیاه» برخورد کند و ما باید سیستم‌های محدودی بسازیم که رفتارشان قابل مشاهده باشد.[1][2]

نادلا استدلال کرد که توسعه‌دهندگان باید از همان ابتدا فرض کنند که یک مدل ممکن است دچار اختلال شود. به همین دلیل، یک فرد مجاز باید همیشه این قدرت را داشته باشد که یک مدل را در میانه انجام یک وظیفه متوقف کند، درست مانند کشیدن ترمز اضطراری در یک قطار.[6]

شکاف نظارتی میان واشنگتن و لندن

تلاش مایکروسافت برای نظارت سخت‌گیرانه دولتی، در تضاد مستقیم با سیاست‌های فعلی دونالد ترامپ، رئیس‌جمهور ایالات متحده است. ترامپ اخیراً اعلام کرده است که محدودیت‌های بیش از حد می‌تواند شرکت‌های آمریکایی را تضعیف کند و به جای آن، از خودتنظیم‌گری داوطلبانه غول‌های فناوری حمایت کرده است.[2][3]

با وجود مقاومت‌های سیاسی در واشنگتن، اسمیت پیشنهاد کرد که بریتانیا در موقعیتی منحصربه‌فرد برای رهبری مقررات جهانی هوش مصنوعی قرار دارد. او به طور خاص از «موسسه ایمنی هوش مصنوعی بریتانیا» به عنوان پایه‌ای ایده‌آل برای تعیین استانداردهای بین‌المللی نام برد و نقش این کشور را کلیدی خواند.[5][6]

اسمیت توضیح داد که در واشنگتن، نگاه سیاستمداران به بریتانیا و لندن بسیار متفاوت و مثبت‌تر از نگاه آن‌ها به بروکسل است. این تفاوت دیدگاه می‌تواند به بریتانیا کمک کند تا بدون ایجاد حساسیت‌های سیاسی که قانون هوش مصنوعی اروپا در آمریکا ایجاد کرده، استانداردهای ایمنی را جهانی کند.[2][5]

همزمان با این اظهارات، کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، در حال آماده شدن برای درخواست از شرکت‌های توسعه‌دهنده است تا اقدامات بیشتری انجام دهند. گزارش‌ها حاکی از آن است که دولت بریتانیا در حال تدوین قوانینی برای افزایش نظارت بر این فناوری است تا از سرقت مدل‌ها جلوگیری کند.[1][4]

مایکروسافت در این مسیر تنها نیست. روسای حداقل ۳ آزمایشگاه بزرگ هوش مصنوعی مستقر در ایالات متحده، از جمله آنتروپیک، اوپن‌ای‌آی و گوگل دیپ‌مایند، نیز با وجود فشارهای کاخ سفید، از ایده کاهش سرعت پیشرفت برای تضمین ایمنی حمایت کرده‌اند. در کنار این فشارهای نظارتی، مایکروسافت اعلام کرده است که ۴ میلیارد دلار برای ساخت یک مرکز داده جدید در ویسکانسین سرمایه‌گذاری خواهد کرد.[2]

عبور از توافق‌های داوطلبانه

اگرچه مدیران فناوری اخیراً در نشستی در کاخ سفید توافق‌نامه‌ای داوطلبانه امضا کردند، اما اسمیت به صراحت اعلام کرد که خودتنظیم‌گری دیگر کافی نیست. منتقدان نیز این توافق‌ها را یک عامل حواس‌پرتی می‌دانند که به شرکت‌ها اجازه می‌دهد خودشان به تنهایی تعریف ایمنی را تعیین کنند.[2][6]

خطرات ناشی از مدل‌های قدرتمندی که امنیت سایبری جهانی را به خطر می‌اندازند، نیازمند قوانین قابل اجرا هستند. وقتی یک عامل هوش مصنوعی می‌تواند به شبکه‌های دولتی نفوذ کند، تکیه بر حسن نیت توسعه‌دهندگان و توافق‌های غیرالزام‌آور استراتژی پایداری نخواهد بود.[1][5]

در نهایت، این بحث بر سر این موضوع متمرکز است که آیا هوش مصنوعی باید به عنوان یک محصول مصرفی استاندارد در نظر گرفته شود یا یک دارایی استراتژیک. برای مایکروسافت، پاسخ روشن است: تا زمانی که نرم‌افزارهای اداره‌کننده جهان به اندازه مواد غذایی داخل یک فروشگاه بازرسی نشوند، این فناوری یک سلاح مدیریت‌نشده است.[3][4]