کالیفرنیا «قانون شفافیت در هوش مصنوعی مرزی» را تصویب کرد؛ تعیین استانداردهای ایمنی برای مدل‌های عظیم

کالیفرنیا رسماً «قانون شفافیت در هوش مصنوعی مرزی» (Transparency in Frontier AI Act) را به اجرا درآورد و جامع‌ترین چارچوب نظارتی برای هوش مصنوعی در ایالات متحده را پایه‌گذاری کرد. این قانون که روز جمعه امضا شد، آزمایش‌های ایمنی سخت‌گیرانه، پروتکل‌های کاهش ریسک و گزارش‌های شفافیت عمومی را برای توسعه‌دهندگانی که قدرتمندترین سیستم‌های هوش مصنوعی جهان را می‌سازند، الزامی می‌کند. این اقدام عملاً دوران تعهدات ایمنی صرفاً داوطلبانه را پایان می‌دهد و آن‌ها را با تعهدات قانونی الزام‌آور برای بزرگترین بازیگران این صنعت جایگزین می‌کند.[1][4]

سنگ بنای این قانون جدید، آستانه فنی مشخص آن است: این قانون منحصراً برای مدل‌هایی اعمال می‌شود که با استفاده از بیش از ۱۰ به توان ۲۶ عملیات ممیز شناور در ثانیه (FLOPS) آموزش دیده‌اند.

این نیاز محاسباتی نجومی به این معنی است که مقررات فقط بر مدل‌های شاخص «مرزی» (Frontier) که توسط غول‌های فناوری دارای مراکز داده عظیم توسعه یافته‌اند، تأثیر می‌گذارد. با ترسیم یک خط سخت ریاضی، این ایالت عملاً استارت‌آپ‌ها، محققان دانشگاهی و اکثریت قریب به اتفاق توسعه‌دهندگان متن‌باز را از بار تعهدات جدید انطباق معاف کرده است.[3][5]

برای درک بهتر آستانه ۱۰ به توان ۲۶ فلوپس (FLOPS)، مدل‌هایی که باعث رونق هوش مصنوعی مولد در سال‌های ۲۰۲۳ و ۲۰۲۴ شدند، تقریباً با ۱۰ به توان ۲۵ فلوپس آموزش دیدند. قانون‌گذاران کالیفرنیا با تعیین این حد یک مرتبه بالاتر، قصد داشتند نسل بعدی سیستم‌های چند تریلیون پارامتری را هدف قرار دهند. کارشناسان هشدار می‌دهند که این مدل‌های آتی، که دارای قابلیت‌های استدلال پیشرفته و عامل‌های مستقل هستند، خطرات سیستمی به مراتب بالاتری نسبت به چت‌بات‌های فعلی دارند.[3][6]

تحت این چارچوب جدید، شرکت‌هایی که این مدل‌های عظیم را توسعه می‌دهند، باید قبل از استقرار، یک «ارزیابی ریسک مرزی» (Frontier Risk Assessment) را به ایالت ارائه دهند. این ارزیابی باید جزئیات قابلیت‌های مدل در مورد آسیب‌پذیری‌های امنیت سایبری، تکثیر خودکار، و پتانسیل تولید خطرات شیمیایی یا بیولوژیکی را شرح دهد. توسعه‌دهندگان همچنین ملزم به اجرای پروتکل «کلید کشتار» (kill switch) هستند تا در صورت بروز رفتارهای خطرناک و ناخواسته در محیط واقعی، عملیات مدل را فوراً متوقف کنند.[1][2]

این قانون یک بخش نظارتی جدید در وزارت فناوری کالیفرنیا ایجاد می‌کند تا بر انطباق نظارت کرده و چارچوب‌های ریسک ارائه‌شده را بررسی کند. عدم ارائه گزارش‌های دقیق یا عدم اطلاع‌رسانی به ایالت در مورد حوادث شدید ظرف ۳۰ روز می‌تواند منجر به جریمه‌های مالی سنگین شود. تنظیم‌کنندگان اختیار دارند تا ۵۰ میلیون دلار برای هر تخلف جریمه اعمال کنند، علاوه بر احکام احتمالی که استقرار مدل را در مرزهای ایالت مسدود می‌کند.[2][4]

واکنش صنعت فناوری محتاطانه و خوش‌بینانه بوده است، که تضاد شدیدی با مخالفت‌های شدید با لوایح هوش مصنوعی قبلی و گسترده‌تر دارد. از آنجا که این قانون صراحتاً مدل‌های کوچک‌تر و پروژه‌های متن‌باز را مستثنی می‌کند، ائتلاف‌های بزرگ صنعتی عمدتاً این چارچوب را به عنوان یک مصالحه عملی پذیرفته‌اند. چندین آزمایشگاه پیشرو هوش مصنوعی قبلاً متعهد به انجام آزمایش‌های ایمنی داوطلبانه تحت دستورالعمل‌های فدرال شده بودند، و این قانون جدید اساساً آن شیوه‌های موجود را به یک الزام قانونی تبدیل می‌کند.[3][5]

محققان ایمنی هوش مصنوعی و گروه‌های مدافع، این قانون را به عنوان یک نقطه عطف حیاتی برای این صنعت ستوده‌اند. سال‌هاست که کارشناسان هشدار می‌دهند تعهدات داوطلبانه شرکت‌های فناوری برای مدیریت خطرات هوش مصنوعی عمومی کافی نیست. طرفداران استدلال می‌کنند که با گره زدن مقررات به یک آستانه محاسباتی سخت و ریاضی، کالیفرنیا یک استاندارد عینی و قابل اجرا ایجاد کرده است که می‌تواند با شتاب گرفتن سخت‌افزار و پیچیده‌تر شدن مدل‌ها، سازگار شود.[6][7]

انتظار می‌رود اجرای قانون شفافیت در هوش مصنوعی مرزی به عنوان یک استاندارد ملی بالفعل عمل کند. از آنجا که ساخت مدل‌های شاخص جداگانه برای ایالت‌های مختلف از نظر اقتصادی برای شرکت‌های بزرگ فناوری مقرون به صرفه نیست، الزامات کالیفرنیا احتمالاً خطوط لوله توسعه را برای آزمایشگاه‌های هوش مصنوعی در سطح جهانی دیکته خواهد کرد. این پویایی بازتابی از نفوذ تاریخی این ایالت بر قوانین حفظ حریم خصوصی داده‌ها و استانداردهای انتشار گازهای گلخانه‌ای خودروها است.[4][7]

این قانون رسماً از ۱ ژانویه ۲۰۲۷ (۱۱ دی ۱۴۰۵) اجرایی خواهد شد و به توسعه‌دهندگان یک پنجره شش ماهه فرصت می‌دهد تا پروتکل‌های آزمایش داخلی خود را با الزامات جدید ایالت هماهنگ کنند. در همین حال، وزارت فناوری کالیفرنیا موظف است تا اکتبر (مهر/آبان) الگوهای گزارش‌دهی نهایی شده را منتشر کند و زمینه را برای عصر جدیدی از توسعه هوش مصنوعی تنظیم‌شده فراهم سازد که ایمنی عمومی را در کنار نوآوری سریع در اولویت قرار می‌دهد.[1][2]