پیمان جهانی دیجیتال سازمان ملل: اولین چارچوب بین‌المللی برای حاکمیت هوش مصنوعی چگونه شکل گرفت؟

آنچه همه در مورد پیمان جهانی دیجیتال (GDC) سازمان ملل اشتباه می‌فهمند، این فرض است که این پیمان به عنوان یک کلانتر نظارتی جهانی عمل می‌کند؛ یعنی یک مرجع متمرکز که آماده است الگوریتم‌های سرکش را ممنوع یا غول‌های فناوری را جریمه کند. اما چنین نیست.

وقتی ۱۹۳ کشور عضو این چارچوب را پذیرفتند، یک معاهده الزام‌آور که قوانین داخلی را لغو کند، امضا نکردند. در عوض، آن‌ها یک داربست دیپلماتیک ساختند. پیمان جهانی دیجیتال اولین ساختار مورد توافق جهانی را برای نحوه ارزیابی، بحث و تأمین مالی حاکمیت هوش مصنوعی توسط کشورها ایجاد می‌کند.[4]

برای درک اینکه واقعاً چه چیزی عملی شده است، باید از زبان دیپلماتیک آرمان‌گرایانه «مهار هوش مصنوعی برای بشریت» عبور کنیم. اگر از هیاهو و تبلیغات صرف نظر کنیم، پیمان جهانی دیجیتال سه سازوکار ساختاری مشخص را ارائه داده که برای جلوگیری از یک چشم‌انداز جهانی تکه‌تکه‌شده و آشفته در حوزه هوش مصنوعی طراحی شده‌اند. این سازوکارها شامل ایجاد یک هیئت علمی بین‌المللی مستقل در مورد هوش مصنوعی، تأسیس یک گفتگوی جهانی دوره‌ای در مورد حاکمیت هوش مصنوعی، و الزام به توسعه چارچوب‌های حاکمیت داده‌ای قابل تعامل هستند.[1]

مهم‌ترین سازوکار از نظر کارکرد، هیئت علمی بین‌المللی مستقل است. این هیئت که تا حدودی از هیئت بین‌دولتی تغییر اقلیم (IPCC) الگوبرداری شده، مأموریت دارد تا علم زیربنایی هوش مصنوعی را از لابی‌گری شرکت‌ها و موضع‌گیری‌های ژئوپلیتیک جدا کند.

در حال حاضر، سیاست‌گذاران به شدت به همان آزمایشگاه‌های تجاری هوش مصنوعی که مدل‌های پیشرفته را می‌سازند، متکی هستند تا خطرات آن‌ها را توضیح دهند. این هیئت علمی طراحی شده است تا با ارائه ارزیابی‌های مستقل و مبتنی بر شواهد از قابلیت‌ها، خطرات و تأثیرات اجتماعی هوش مصنوعی، این وابستگی را از بین ببرد.[1][4]

سازمان ملل امیدوار است با ایجاد یک مبنای مشترک از حقایق، از سناریویی جلوگیری کند که در آن مناطق مختلف بر اساس مفروضات علمی کاملاً متفاوتی در مورد آنچه هوش مصنوعی می‌تواند یا نمی‌تواند انجام دهد، عمل کنند. اگر این هیئت طبق برنامه عمل کند، گزارش‌های دوره‌ای منتشر خواهد کرد که به عنوان اجماع علمی قطعی عمل می‌کنند و به کشورهای کوچک‌تر که بودجه‌های کلان تحقیقاتی هوش مصنوعی داخلی ندارند، مبنایی قابل اعتماد برای سیاست‌گذاری‌های خودشان می‌دهد.

سازوکار دوم، یعنی گفتگوی جهانی در مورد حاکمیت هوش مصنوعی، به واقعیت ژئوپلیتیک نظارت می‌پردازد. در حال حاضر، حاکمیت هوش مصنوعی بسیار پراکنده است. اتحادیه اروپا قانون هوش مصنوعی الزام‌آآور خود را دارد، ایالات متحده به دستورات اجرایی و تعهدات داوطلبانه متکی است، و چین ثبت الگوریتم‌های متمرکز بر دولت را اجرا می‌کند. گفتگوی جهانی قرار نیست جایگزین این رژیم‌ها شود، بلکه هدفش این است که اطمینان حاصل کند این قوانین کاملاً با یکدیگر ناسازگار نشوند.[4]

این گفتگو که در حاشیه کنفرانس‌های موجود سازمان ملل برگزار می‌شود، یک مجمع فراگیر و دوره‌ای را فراهم می‌کند که در آن دولت‌ها، جامعه مدنی و بخش خصوصی می‌توانند در مورد قابلیت تعامل مذاکره کنند. هدف، جلوگیری از ایجاد یک «اینترنت تکه‌تکه‌شده» در حوزه هوش مصنوعی است؛ جایی که یک مدل که در یک حوزه قضایی ایمن تلقی می‌شود، به دلیل استانداردهای فنی متناقض، و نه اختلافات اساسی ایمنی، در حوزه دیگر کاملاً غیرقانونی باشد.[1]

نکته حیاتی این است که پیمان جهانی دیجیتال صراحتاً اذعان می‌کند که نمی‌توان هوش مصنوعی را بدون حاکمیت بر داده‌هایی که مصرف می‌کند، اداره کرد. این چارچوب توسعه چارچوب‌های ملی حاکمیت داده‌ای قابل تعامل را الزامی می‌کند. این یک تغییر مهم در سیاست بین‌المللی است، زیرا اذعان دارد که حاکمیت داده، لایه زیربنایی هوش مصنوعی اخلاقی و انسان‌محور است.[2]

بدون حاکمیت داده‌ای منسجم، خطرات نقض حریم خصوصی، آسیب‌پذیری‌های امنیتی و سوگیری الگوریتمی تشدید می‌شوند. پیمان جهانی دیجیتال به کمیسیون علم و فناوری برای توسعه سازمان ملل مأموریت می‌دهد تا یک کارگروه چندذینفعی را که به طور خاص بر حاکمیت داده متمرکز است، راه‌اندازی کند. این امر بحث را فراتر از صرفاً «ایمنی مدل» برده و به زنجیره تأمین بالادستی، یعنی نحوه تأمین، دسته‌بندی و حفاظت از داده‌های آموزشی در سراسر مرزها، می‌کشاند.[2]

سازمان‌های جامعه مدنی توسعه پیمان جهانی دیجیتال را به شدت زیر نظر داشته‌اند و فشار آورده‌اند تا اطمینان حاصل شود که این چارچوب صرفاً در خدمت منافع امنیتی دولت یا حاشیه سود شرکت‌ها نباشد. متن نهایی صراحتاً حاکمیت هوش مصنوعی را بر پایه قوانین بین‌المللی حقوق بشر بنا می‌کند. این پیمان تأکید دارد که حقوق بشر باید در تمام چرخه عمر فناوری‌های هوش مصنوعی محافظت شود و به طور خاص به آسیب‌های ناشی از فناوری و خشونت دیجیتال می‌پردازد.[3]

هدف از این لنگر انداختن بر حقوق بشر، ایجاد سدی در برابر استفاده از هوش مصنوعی برای نظارت گسترده، پلیس پیش‌بینی‌کننده یا تبعیض سیستماتیک است. با این حال، شکاکان به درستی اشاره می‌کنند که از آنجایی که پیمان جهانی دیجیتال الزام‌آور نیست، این تعهدات حقوق بشری کاملاً به اراده سیاسی تک‌تک کشورهای عضو برای اجرای داخلی آن‌ها وابسته است. سازمان ملل می‌تواند استاندارد هنجاری را تعیین کند، اما نمی‌تواند انطباق را اجباری سازد.[3][4]

پیمان جهانی دیجیتال همچنین تلاش می‌کند تا به «شکاف هوش مصنوعی» که در حال گسترش است، رسیدگی کند. در حال حاضر، توسعه مدل‌های پیشرفته هوش مصنوعی در تعداد انگشت‌شماری از کشورهای ثروتمند و شرکت‌های چندملیتی متمرکز شده است. اکثریت جهانی – کشورهای در حال توسعه در سراسر جنوب جهانی – در معرض خطر تبدیل شدن به مصرف‌کنندگان صرف فناوری‌های هوش مصنوعی هستند که منعکس‌کننده زبان‌ها، فرهنگ‌ها یا نیازهای اقتصادی خاص آن‌ها نیست.[2]

برای مقابله با این وضعیت، این چارچوب خواستار مشارکت‌هایی برای ظرفیت‌سازی در حوزه هوش مصنوعی شده و مفهوم «صندوق جهانی هوش مصنوعی» را معرفی می‌کند. هدف این است که زیرساخت عمومی دیجیتال تأمین مالی شود و از نوآوری محلی هوش مصنوعی در کشورهای در حال توسعه حمایت گردد.

اگر این صندوق تأمین مالی شود، می‌تواند پویایی را از یک مدل استخراج فناوری نئوکولونیالیستی به مدلی تغییر دهد که در آن جوامع محلی، توان محاسباتی و استعداد لازم برای ساخت راه‌حل‌های هوش مصنوعی متناسب با اهداف توسعه پایدار خود را داشته باشند.[1][2]

با این حال، عدم قطعیت پیرامون پیمان جهانی دیجیتال دقیقاً در تأمین مالی و اجرای آن نهفته است. توافقات دیپلماتیک به طور مشهوری امضا کردنشان آسان‌تر از عملیاتی کردنشان است. صندوق جهانی هوش مصنوعی همچنان یک «گزینه قابل بررسی» باقی مانده است تا یک واقعیت کاملاً سرمایه‌گذاری شده. هیئت علمی برای جذب محققان مستقل سطح بالا که بتوانند با قدرت تحلیلی بخش خصوصی رقابت کنند، به بودجه قابل توجه و مستمر نیاز خواهد داشت.[1][4]

علاوه بر این، موفقیت پیمان جهانی دیجیتال به تمایل ابرقدرت‌های هوش مصنوعی جهان برای مشارکت واقعی بستگی دارد. اگر بازیگران اصلی، روند سازمان ملل را بیش از حد کُند یا محدودکننده ببینند، ممکن است به سادگی گفتگوی جهانی را دور زده و به نفع توافقات دوجانبه یا باشگاه‌های انحصاری مانند گروه ۷ (G7) عمل کنند. نمایندگی جهانی سازمان ملل بزرگترین نقطه قوت آن است، اما دستیابی به اجماع در میان ۱۹۳ کشور اغلب منجر به تعهداتی می‌شود که از محتوای اصلی خود تهی شده‌اند.[4]

در نهایت، پیمان جهانی دیجیتال یک نقطه عطف حیاتی، هرچند مقدماتی، محسوب می‌شود. این اولین بار است که جامعه بین‌المللی رسماً توافق کرده است که هوش مصنوعی یک مسئله عمومی جهانی است که نیازمند پاسخی هماهنگ و چندجانبه است. این پیمان ساختار نهادی لازم – هیئت علمی، گفتگو، و الزام داده‌ای – را ارائه کرده است. دهه آینده مشخص خواهد کرد که آیا کشورهای عضو واقعاً از این ساختار برای ایجاد محافظ‌های معنادار استفاده می‌کنند، یا اینکه پیمان جهانی دیجیتال صرفاً یک اثر دیپلماتیک با نیت خوب باقی خواهد ماند.[4]