پایان خودتنظیمی هوش مصنوعی: چگونه اجرای قانون هوش مصنوعی اتحادیه اروپا، حکمرانی جهانی فناوری را بازنویسی می‌کند

در طول دهه گذشته، توسعه هوش مصنوعی عمدتاً توسط شرکت‌هایی که آن را می‌ساختند، اداره می‌شد. غول‌های فناوری مدل‌های با قابلیت فزاینده‌ای را تحت مجموعه‌ای از تعهدات ایمنی داوطلبانه، پروتکل‌های داخلی تیم‌های قرمز (red-teaming) و چارچوب‌های بین‌المللی غیرالزام‌آور منتشر کردند. این دوران خودتنظیمی رسماً این هفته به پایان رسید.[1]

از جولای ۲۰۲۶، مقررات گسترده قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) دوره گذار ۲۴ ماهه خود را پشت سر گذاشته و وارد مرحله اجرای کامل قانونی شده است. این قانون، اولین چارچوب حقوقی جامع و الزام‌آور جهان برای هوش مصنوعی است که پارادایم را از حسن نیت شرکتی به انطباق قانونی سخت تغییر می‌دهد.[1]

پیامدهای عدم انطباق حتی برای سرمایه‌دارترین شرکت‌های فناوری نیز حیاتی است. این قانون به تنظیم‌کنندگان اروپایی اختیار می‌دهد تا جریمه‌هایی تا سقف ۳۵ میلیون یورو یا ۷ درصد از گردش مالی سالانه جهانی یک شرکت — هر کدام که بیشتر باشد — اعمال کنند. برای یک شرکت تریلیون دلاری، یک تخلف شدید می‌تواند منجر به جریمه‌هایی بیش از ده‌ها میلیارد دلار شود.[4]

برای درک نحوه عملکرد این قانون، نگاهی به سازوکار اصلی آن، یعنی سیستم طبقه‌بندی مبتنی بر ریسک، ضروری است. قانون هوش مصنوعی اتحادیه اروپا به جای تلاش برای تنظیم ریاضیات زیربنایی یادگیری ماشین، موارد استفاده خاص این فناوری را تنظیم می‌کند و سیستم‌های هوش مصنوعی را به چهار سطح متمایز ریسک تقسیم می‌نماید.[1]

در رأس این هرم، «ریسک غیرقابل قبول» قرار دارد؛ دسته‌ای از کاربردها که اکنون در اتحادیه اروپا کاملاً ممنوع هستند. این موارد شامل سیستم‌های امتیازدهی اجتماعی که توسط مقامات دولتی به کار گرفته می‌شوند، دستکاری شناختی رفتاری (مانند دستیارهای صوتی طراحی شده برای تشویق رفتارهای خطرناک در کودکان)، و سیستم‌های طبقه‌بندی بیومتریک بلادرنگ مورد استفاده در فضاهای عمومی برای اجرای قانون، به استثنای موارد محدود مبارزه با تروریسم، است.[1]

با این حال، بار اصلی تنظیم‌گری در سطح «ریسک بالا» رخ می‌دهد. این دسته شامل سیستم‌های هوش مصنوعی مورد استفاده در زیرساخت‌های حیاتی، پذیرش‌های آموزشی، استخدام، خدمات خصوصی ضروری مانند امتیازدهی اعتباری، و اجرای عدالت است. توسعه‌دهندگانی که سیستم‌های پرخطر را مستقر می‌کنند، اکنون باید قبل از ورود محصولاتشان به بازار، از موانع سخت‌گیرانه‌ای عبور کنند.[1]

این الزامات انطباق برای ریسک بالا گسترده هستند. شرکت‌ها باید سیستم‌های مدیریت ریسک مستمر ایجاد کنند، از کیفیت بالای مجموعه داده‌های آموزشی برای به حداقل رساندن سوگیری اطمینان حاصل نمایند، مستندات فنی دقیق نگهداری کنند، فعالیت سیستم را برای قابلیت ردیابی ثبت نمایند، و نظارت انسانی را تضمین کنند. نکته حیاتی این است که آنها همچنین باید ارزیابی‌های انطباق را پشت سر بگذارند، که اساساً چرخه‌های استقرار سریع و تکراری که مشخصه توسعه نرم‌افزار در سیلیکون ولی بوده است را تغییر می‌دهد.[5]

در زیر سطح ریسک بالا، «ریسک محدود» قرار دارد که عمدتاً شفافیت را الزامی می‌کند. اگر یک سیستم هوش مصنوعی با انسان‌ها تعامل داشته باشد — مانند یک چت‌بات خدمات مشتری یا یک تولیدکننده دیپ‌فیک — سیستم باید به صراحت افشا کند که کاربر در حال تعامل با یک ماشین یا محتوای تولید شده مصنوعی است. در نهایت، سیستم‌های «ریسک حداقل»، مانند فیلترهای هرزنامه مبتنی بر هوش مصنوعی یا الگوریتم‌های بازی‌های ویدیویی، عمدتاً بدون مقررات باقی می‌مانند و اکثریت قریب به اتفاق کاربردهای هوش مصنوعی مورد استفاده فعلی را تشکیل می‌دهند.[1]

در حالی که سطوح ریسک، کاربردهای خاص را تنظیم می‌کنند، افزایش انفجاری هوش مصنوعی مولد، قانون‌گذاران اروپایی را مجبور کرد تا یک چارچوب موازی برای «هوش مصنوعی با هدف عمومی» (GPAI) تدوین کنند. این‌ها مدل‌های بنیادین هستند — مانند سری GPT اوپن‌ای‌آی، کلود (Claude) شرکت آنتروپیک، یا جِمینای (Gemini) گوگل — که بر روی حجم عظیمی از داده‌ها آموزش دیده‌اند و می‌توانند طیف گسترده‌ای از وظایف پایین‌دستی را انجام دهند.[2]

این قانون GPAI را بر اساس قدرت محاسباتی به دو دسته تقسیم می‌کند. مدل‌هایی که با استفاده از آستانه محاسباتی تجمعی بیش از ۱۰ به توان ۲۵ عملیات ممیز شناور (FLOPs) آموزش دیده‌اند، به طور خودکار به عنوان دارای «ریسک سیستمی» طبقه‌بندی می‌شوند. توسعه‌دهندگان این مدل‌های پیشرو با تعهدات سخت‌گیرانه‌ای روبرو هستند، از جمله ارزیابی‌های اجباری مدل، آزمایش‌های خصمانه، ردیابی مصرف انرژی، و گزارش‌دهی اجباری حوادث جدی به دفتر هوش مصنوعی اروپا که به تازگی تأسیس شده است.[1][3]

یک سؤال حیاتی برای خواننده‌ای در آمریکای شمالی یا آسیا این است که چرا قانونی که در بروکسل تصویب شده، برای توسعه‌دهندگان در سانفرانسیسکو یا شنژن اهمیت دارد. پاسخ در پدیده‌ای نهفته است که محققان حقوقی آن را «اثر بروکسل» (Brussels Effect) می‌نامند. از آنجا که بازار واحد اروپا برای شرکت‌های بزرگ فناوری بسیار سودآور است که بخواهند آن را رها کنند، شرکت‌های چندملیتی اغلب حفظ دو خط لوله محصول جداگانه — یکی برای اروپا و دیگری برای بقیه جهان — را از نظر اقتصادی غیرممکن می‌دانند.[2]

در نتیجه، شرکت‌ها تمایل دارند استانداردهای سخت‌گیرانه اتحادیه اروپا را به صورت جهانی اتخاذ کنند تا عملیات مهندسی و انطباق خود را ساده‌سازی نمایند. همان‌طور که مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR) به استاندارد پیش‌فرض جهانی حریم خصوصی تبدیل شد، قانون هوش مصنوعی نیز آماده است تا حکمرانی فناوری اروپا را به سراسر جهان صادر کند. اگر یک مدل بنیادین باید به گونه‌ای ساخته شود که الزامات شفافیت و آزمایش اروپا را برآورده کند، آن ویژگی‌های ایمنی به طور ذاتی در نسخه‌ای که به مشتریان سازمانی آمریکایی یا ژاپنی فروخته می‌شود، گنجانده خواهد شد.[2][4]

اجرای این قانون توسط دفتر هوش مصنوعی اروپا، یک نهاد نظارتی متمرکز که در کمیسیون اروپا تأسیس شده است، نظارت می‌شود. این دفتر به عنوان مجری اصلی برای مدل‌های GPAI دارای ریسک سیستمی عمل می‌کند، در حالی که مقامات ملی در کشورهای عضو، اجرای موارد استفاده خاص با ریسک بالا را بر عهده دارند. این رویکرد دو لایه با هدف تضمین اجرای یکنواخت در سراسر قاره، در عین حال اجازه دادن به تنظیم‌کنندگان محلی برای رسیدگی به ظرافت‌های خاص بازار، انجام می‌شود.[1][5]

با وجود ماهیت جامع این قانون، با آغاز اجرا، ابهامات قابل توجهی باقی می‌ماند. یکی از بحث‌برانگیزترین حوزه‌ها، توسعه هوش مصنوعی متن‌باز (Open-Source) است. این قانون معافیت‌هایی را برای مدل‌هایی که تحت مجوزهای آزاد و متن‌باز منتشر می‌شوند، فراهم می‌کند، با هدف حمایت از تحقیقات مشارکتی و نوآوران کوچک‌تر در برابر له شدن توسط هزینه‌های انطباق که برای شرکت‌های تریلیون دلاری طراحی شده است.[3]

با این حال، اگر مدل از آستانه ریسک سیستمی ۱۰ به توان ۲۵ فلاپس عبور کند، یا اگر در یک کاربرد پرخطر مستقر شود، این معافیت متن‌باز از بین می‌رود. حامیان متن‌باز استدلال می‌کنند که ابهام پیرامون آنچه استقرار «تجاری» یک مدل متن‌باز را تشکیل می‌دهد، می‌تواند تحقیقات آکادمیک را سرد کرده و قدرت را در میان معدود غول‌های فناوری که توانایی پرداخت هزینه‌های هنگفت دپارتمان‌های حقوقی را دارند، متمرکز سازد.[1][3]

حوزه دیگری از اصطکاک، تنش بین تنظیم‌گری و نوآوری است. منتقدان هشدار می‌دهند که بار سنگین انطباق، استارت‌آپ‌های اروپایی را در موقعیت نامناسبی قرار می‌دهد و به طور بالقوه استعدادها و سرمایه هوش مصنوعی را به حوزه‌های قضایی سهل‌گیرتر سوق می‌دهد. در پاسخ، این قانون ایجاد «سندباکس‌های نظارتی» (Regulatory Sandboxes) را الزامی می‌کند — محیط‌های کنترل‌شده‌ای که در آن استارت‌آپ‌ها می‌توانند سیستم‌های هوش مصنوعی نوآورانه را تحت نظارت نظارتی توسعه و آزمایش کنند، قبل از اینکه تحت بار کامل انطباق قرار گیرند.[4][5]

اجرای این سندباکس‌ها یک آزمون حیاتی برای این خواهد بود که آیا اروپا می‌تواند یک صنعت هوش مصنوعی داخلی رقابتی را تقویت کند و در عین حال به تعهد خود نسبت به حقوق اساسی پایبند بماند. در صورت موفقیت، سندباکس‌ها می‌توانند یک طرح اولیه برای تنظیم‌گری چابک ارائه دهند و به قانون‌گذاران اجازه دهند تا با فناوری‌ای که در مقیاس زمانی ماه‌ها به جای سال‌ها تکامل می‌یابد، همگام شوند.[3][5]

در نهایت، اجرای قانون هوش مصنوعی اتحادیه اروپا نشان‌دهنده بلوغ هوش مصنوعی به عنوان یک صنعت است. گذار از مرز آزمایش‌های بدون محدودیت به یک ابزار تنظیم‌شده، بازتاب ادغام این فناوری در زیرساخت اصلی جامعه مدرن است. با تعیین مرزهای روشن، این چارچوب اطمینان حقوقی لازم برای پذیرش سازمانی را فراهم می‌کند و تضمین می‌نماید که نسل بعدی توسعه هوش مصنوعی بر ایمنی قابل تأیید، به جای وعده‌های داوطلبانه، استوار است.[3]