رفتن به محتوای اصلی
مقررات هوش مصنوعیایالت نیویورک· 7 دقیقه مطالعه· در فناوری

نیویورک نخستین مرکز دولتی ارزیابی مستقل هوش مصنوعی را برای راستی‌آزمایی مدل‌های پیشرو راه‌اندازی کرد

ایالت نیویورک نخستین مرکز مستقل آزمایش هوش مصنوعی آمریکا را در دانشگاه بینگهمتون راه‌اندازی کرد تا بیش از ۸۰ پژوهشگر عملکرد مدل‌های پیشرفته را بررسی کنند. هم‌زمان، درگاه ثبت‌نام برای شرکت‌های بزرگ فناوری ذیل قانون RAISE بازگشایی شد که مهلت نهایی پایبندی به آن ژانویه ۲۰۲۷ تعیین شده است.

به قلم غزل بختیاری

این خبر را به اشتراک بگذارید

گوش‌ دهید

ایالت نیویورک نخستین برنامه ارزیابی دولتی هوش مصنوعی را در سطح ایالات متحده کلید زد؛ اقدامی که سازوکار نظارت را از خوداظهاری‌های مرسوم غول‌های فناوری به‌سمت اعتبارسنجی علمی مستقل می‌برد. کتی هوکول، فرماندار نیویورک، در ۱۰ نوامبر ۲۰۲۶ مرکز مسئولیت‌پذیری و پژوهش هوش مصنوعی را در دانشگاه بینگهمتون (SUNY Binghamton) افتتاح کرد تا صحت ادعاهای ایمنی شرکت‌های سازنده مدل‌های پیشگام سنجیده شود.[1][4]

این مرکز شبکه‌ای متشکل از بیش از ۸۰ پژوهشگر را از دانشگاه‌ها و مؤسسات سراسر ایالت گردهم آورده است. مأموریت اصلی آنان بررسی شیوه کارکرد مدل‌های پیشرفته، سنجش امنیت آن‌ها و ساخت ابزارهای اندازه‌گیری برای سیستم‌های قدرتمندتر است؛ روندی دانشگاهی که قرار است داده‌های واقعی و بدون دستکاری را برای تصمیم‌گیری در اختیار نهادهای ناظر بگذارد.[3][4]

هوکول در مراسم افتتاحیه صراحتاً اعلام کرد: «در شرایطی که دولت فدرال دست روی دست گذاشته، نیویورک مسیر ایمنی هوش مصنوعی و پاسخگو کردن شرکت‌های بزرگ فناوری را هموار می‌کند. خطرات بسیار فراتر از آن است که صرفاً وعده‌ها و بیانیه‌های تبلیغاتی شرکت‌ها را باور کنیم.» او تأکید کرد ایالت می‌خواهد توان دانشگاهی خود را سپری برای حفاظت از شهروندان قرار دهد.[3]

گرگ مورست، رئیس دانشکده کرنل تک، و ژانت وینگ، معاون پژوهشی دانشگاه کلمبیا، مسئولیت مدیریت مشترک و موقت مرکز را بر عهده دارند. مأموریت اصلی آن‌ها هدایت برنامه علمی و نظارت بر ارزیابی‌های مستقل است؛ ضمن آنکه پژوهشگران بدون نیاز به ترک دانشگاه‌های مبدا، در قالب این شبکه ایالتی فعالیت می‌کنند.[1][3]

برنامه پژوهشی این مرکز به تست‌های سطحی ایمنی محدود نمی‌شود و پرسش‌های بنیادین علمی را هدف گرفته است. تیم‌ها روی روش‌های صوری، امنیت سخت‌افزاری و چگونگی تفسیرپذیری شبکه‌های عصبی پیچیده کار خواهند کرد تا با تکیه بر مبانی ریاضی مدل‌ها، رفتارهای غیرمنتظره را پیش از ورود نرم‌افزار به بازار پیش‌بینی و مهار کنند.[1][3]

این مرکز آزمایش با اتکا به امپایر ای‌آی (Empire AI)، ابتکار ابررایانشی ۵۰۰ میلیون دلاری بخش دولتی و خصوصی، مدل‌های هوش مصنوعی را تست می‌کند.

مهار ابررایانه‌ها در مسیر خیر عمومی

پشتوانه فنی این مرکز، ابتکار ابررایانشی ۵۰۰ میلیون دلاری «امپایر ای‌آی» (Empire AI) است که با شراکت بخش عمومی و خصوصی برای خدمت به پژوهش‌های عام‌المنفعه راه‌اندازی شده است. این زیرساخت، توان پردازشی سهمگینی را برای اجرای تست‌های پیچیده ایمنی روی مدل‌های بسیار بزرگ فراهم می‌کند و ترکیب این سخت‌افزار با استقلال دانشگاهی، موقعیت منحصربه‌فردی به نیویورک می‌دهد.[3][4]

تام سکوندا، رئیس هیئت‌مدیره Empire AI و از هم‌بنیان‌گذاران بلومبرگ، درباره اهمیت این توان محاسباتی گفت: «ما از قدرت امپایر ای‌آی و ظرفیت دانشگاهی‌مان بهره می‌گیریم تا پژوهش‌های هوش مصنوعی را پیش ببریم.» او یادآور شد که آزمایش مستقل نشان می‌دهد این مدل‌های پرهیاهو در واقعیت تا چه حد توانا و ایمن هستند.[3]

پایه‌های مالی این مرکز با اهدای ۳۰ میلیون دلاری گروهی خیریه به رهبری سکوندا و سرمایه‌گذاری ۲۵ میلیون دلاری دانشگاه ایالتی نیویورک شکل گرفت؛ ایالت نیز بودجه جاری تداوم فعالیت‌ها را متقبل شده است. مراسم افتتاحیه در نوامبر عملاً این برنامه دانشگاهی را به شبکه‌ای عملیاتی و فعال تبدیل کرد.[4]

پژوهشگران مرکز چالش‌های فنی دشواری چون جلوگیری از خروج عامل‌های هوش مصنوعی از محیط‌های شبیه‌سازی و قرنطینه (Sandbox) را ارزیابی خواهند کرد. هدف این است که با خلق نوآوری‌های فنی، معیارهایی سفت‌وسخت برای شفافیت و هم‌راستایی مدل‌ها تعریف شود تا علم تجربی جایگزین شعارهای بازاریابی شرکت‌ها شود.[1]

گاه‌شمار پایبندی به قانون RAISE

هم‌زمان با آغاز به کار این مرکز، درگاه ثبت‌نام ایالتی ذیل قانون «ایمنی و آموزش مسئولانه هوش مصنوعی» (RAISE Act) در دسترس قرار گرفت. این مصوبه که اجرای کامل آن از ۱ ژانویه ۲۰۲۷ آغاز می‌شود، الزامات شفافیت و گزارش‌دهی دقیقی را پیش پای توسعه‌دهندگان مدل‌های پیشگام و متکی به توان پردازشی سنگین می‌گذارد.[4][5]

بر اساس قانون RAISE، شرکت‌های بزرگ توسعه‌دهنده هوش مصنوعی با درآمد سالانه بیش از ۵۰۰ میلیون دلار باید تا پیش از مهلت ژانویه در این سامانه ثبت‌نام کنند. دفتر تازه‌تاسیس «نوآوری، حکمرانی، یکپارچگی و اعتماد دیجیتال» در اداره خدمات مالی ایالت مسئول مستقیم نظارت است و دستورالعمل‌های اولیه را برای شرکت‌های فعال منتشر کرده است.[1][4]

از ابتدای سال ۲۰۲۷، غول‌های هوش مصنوعی موظفند چارچوب‌های ایمنی تفصیلی خود را عمومی منتشر کنند. در این اسناد باید دقیقاً مشخص باشد که شرکت چطور خطرات فاجعه‌بار ناشی از مدل‌هایش را شناسایی، پایش و مهار می‌کند؛ امری که توسعه‌دهندگان را ناچار می‌سازد پروتکل‌های داخلی‌شان را رسمی و شفاف به قضاوت عمومی بگذارند.[1][4]

قانون RAISE مهلت‌های سخت‌گیرانه‌ای برای شفافیت و گزارش‌دهی شرکت‌های توسعه‌دهنده هوش مصنوعی پیشرفته تعیین کرده است.

همچنین الزامات سفت‌وسختی برای گزارش رخدادها تعیین شده است: شرکت‌ها باید هرگونه حادثه بحرانی ایمنی را حداکثر ظرف ۷۲ ساعت پس از کشف به نهاد ناظر ایالت اطلاع دهند. افزون بر این، ارائه گزارش‌های فصلی سنجش ریسک‌های فاجعه‌بار و شفافیت مدل‌ها برای رگولاتور اجباری خواهد بود.[1][4][5]

گسترش اختیارات نظارتی نهادهای ایالتی

با آنکه قانون نخست RAISE صرفاً کفی برای شفافیت محسوب می‌شود، قانون‌گذاران ایالت نیویورک از همین حالا به‌دنبال بسط اختیارات نظارتی خود هستند. طرح «قانون رایز ۲.۰» در اواخر اکتبر ۲۰۲۶ ارائه شد تا به نهادهای ناظر قدرت محدود کردن منابع پردازشی در دسترس غول‌های فناوری را در صورت تخلف یا خطر بدهد.[2]

بر اساس این اصلاحیه پیشنهادی، توسعه‌دهندگان مشمول باید گزارش‌های فصلی دقیقی ارائه دهند که چه میزان از روند پژوهش‌های هوش مصنوعی‌شان خودکارسازی شده است؛ از جمله این‌که آیا مدل‌های فعلی برای ساخت نسخه‌های بعدی به‌کار گرفته می‌شوند یا خیر. دامنه این قانون شرکت‌های صاحب‌سرمایه‌ای را هدف می‌گیرد که بیش از ۱ میلیارد دلار خرج توسعه کرده‌اند.[2]

اندرو گوناردیس، سناتور ایالتی و حامی طرح جدید، معتقد است اتفاقات اخیر لزوم ورود جدی دولت را ثابت کرده است: «زمان آن رسیده که جلوی رقابت تسلیحاتی کورکورانه در هوش مصنوعی را بگیریم. هر روز با سرخط‌هایی روبه‌رو می‌شویم که نشان می‌دهد در این حوزه مطلقاً نمی‌توان به خودتنظیم‌گری غول‌های سیلیکون‌ولی اعتماد کرد.»[2]

طرح الحاقی جدید بر الزام حسابرسی مستقل از مدل‌ها پافشاری می‌کند تا ارزیابی شخص ثالث وارد چرخه تولید شود. ناظران امیدوارند با دسترسی احتمالی به اهرم مهار منابع پردازشی، بتوانند در صورت اثبات خطرات فاجعه‌بار، چرخه توسعه را متوقف یا کند کنند؛ تلاشی که موضع پیش‌دستانه نیویورک را در برابر بی‌قانونی این بازار پرشتاب نشان می‌دهد.[2]

مدل ایالتی در برابر انفعال دولت فدرال

این قوانین ایالتی در شرایطی تدوین می‌شوند که دولت فدرال از قانون‌گذاری الزام‌آور برای ایمنی هوش مصنوعی عقب نشسته و دولت دونالد ترامپ رویه‌ای مبتنی بر چارچوب‌های داوطلبانه در پیش گرفته است. نیویورک اکنون در کنار کالیفرنیا و ایلینوی از معدود ایالت‌هایی است که خلأ حکمرانی را با مقررات الزامی پر می‌کنند.[3][5]

گزارش اخیر اندیشکده «امریکن اینترپرایز» نشان می‌دهد این سه ایالت به جای سازوکارهای پیچیده صدور مجوز یا دریافت تاییدیه پیش از انتشار، شفافیت اجباری را محور کار قرار داده‌اند؛ شیوه‌ای که شرکت‌ها را در برابر تعهدات علنی خودشان مسئول نگه می‌دارد و بدون بستن درهای نوآوری، اهرم نظارتی مستندی به دست نهادهای عمومی می‌دهد.[5]

نیویورک در کنار کالیفرنیا و ایلینوی جزو معدود ایالت‌هایی است که قوانینی الزامی برای مهار مدل‌های پیشگام هوش مصنوعی تصویب کرده‌اند.

با این حال، تفاوت‌های محسوسی میان قوانین این ایالت‌ها وجود دارد؛ برای نمونه کالیفرنیا به شرکت‌ها ۱۵ روز مهلت گزارش حوادث بحرانی را می‌دهد، در حالی که نیویورک و ایلینوی ضرب‌الاجل فشرده ۷۲ ساعته تعیین کرده‌اند. علاوه بر این، ایلینوی قرار است از سال ۲۰۲۸ اولین ایالتی باشد که حسابرسی‌های سالانه و مستقل شخص ثالث را الزامی می‌کند.[5]

اندیشکده امریکن اینترپرایز هشدار می‌دهد که تکیه بر معیارهای درآمدی یا حجم پردازش (Compute) لزوماً شاخص دقیقی برای سنجش میزان خطر واقعی یک مدل نیست. با افزایش بهره‌وری نرم‌افزاری، امروزه مدل‌هایی فوق‌العاده توانمند با پردازش کمتر و خارج از دایره شمول این قوانین تعلیم می‌بینند؛ موضوعی که نشان می‌دهد قوانین باید به قابلیت‌های واقعی مدل تمرکز کنند تا صرفاً سخت‌افزار مصرفی.[5]

رویکرد ایالتی با محدودیت‌های ذاتی نیز روبه‌روست. مرکز ارزیابی بینگهمتون تنها به داده‌ها و کدهایی دسترسی دارد که شرکت‌ها به‌صورت قانونی مجبور به افشا شوند یا داوطلبانه به اشتراک بگذارند؛ بنابراین مدل‌های محرمانه و اختصاصی که هنوز در آزمایشگاه‌ها در دست توسعه‌اند، تا آستانه انتشار عمومی از دسترس این ارزیابان مستقل دور خواهند ماند.[1]

با وجود این موانع، ترکیب تکالیف گزارش‌دهی در قانون RAISE و زیرساخت فنی مرکز بینگهمتون بستر نظارتی منسجمی آفریده است. ترکیب گزارش‌دهی سریع رخدادها با سرمایه‌گذاری روی ارزیابی علمی مستقل، مدلی تازه در حکمرانی هوش مصنوعی پی‌ریزی کرده که پیشرفت فنی را با پاسخگویی عمومی پیوند می‌زند.[4][5]

با وجود این موانع، ترکیب تکالیف گزارش‌دهی در قانون RAISE و زیرساخت فنی مرکز بینگهمتون بستر نظارتی منسجمی آفریده است.

موفقیت نهایی این برنامه در گرو توان مرکز در جذب نخبگان فنی کارآمد و تدوین روش‌شناسی‌های واقعی ارزیابی است. با نزدیک شدن به مهلت ژانویه ۲۰۲۷، فعالان حوزه فناوری روند برخورد و توان اجرایی نیویورک را زیر نظر دارند؛ نتیجه‌ای که احتمالاً نقشه راه سایر حوزه‌های قضایی در مهار مدل‌های نسل جدید هوش مصنوعی خواهد بود.[3][4]

نکات کلیدی

  1. نیویورک با راه‌اندازی مرکز ارزیابی مستقل هوش مصنوعی در دانشگاه بینگهمتون، اولین برنامه دولتی راستی‌آزمایی علمی مدل‌های پیشگام را پایه‌گذاری کرد.
  2. این مرکز از توان پردازشی ۵۰۰ میلیون دلاری ابتکار ابررایانشی «امپایر ای‌آی» بهره می‌برد و شبکه‌ای از ۸۰ پژوهشگر را مدیریت می‌کند.
  3. توسعه‌دهندگان بزرگ هوش مصنوعی باید تا ۱ ژانویه ۲۰۲۷ ثبت‌نام کرده، چارچوب‌های ایمنی را منتشر کنند و رخدادهای بحرانی را ظرف ۷۲ ساعت گزارش دهند.
  4. قانون‌گذاران ایالت پیش‌نویس قانون «رایز ۲.۰» را پیشنهاد داده‌اند که امکان محدودسازی منابع پردازشی توسعه‌دهندگان بزرگ را در اختیار نهادهای ناظر قرار می‌دهد.

آنچه نمی‌دانیم

  • هنوز مشخص نیست نهادهای ناظر نیویورک چگونه الزامات این قانون را برای شرکت‌های مستقر در خارج از ایالت که مدل‌هایشان در نیویورک عرضه می‌شود، به اجرا خواهند گذاشت.
  • مرکز ارزیابی به داده‌های افشاشده متکی خواهد بود؛ بنابراین هنوز راهکاری برای نحوه دسترسی پژوهشگران به مدل‌های محرمانه‌ای که در مراحل اولیه ساخت هستند، مشخص نیست.
  • هنوز معلوم نیست طرح الحاقی RAISE 2.0 موفق به جلب حمایت قانون‌گذاران برای اعطای حق محدودسازی منابع پردازشی به رگولاتورها خواهد شد یا خیر.

روند رویداد

  1. دسامبر ۲۰۲۵

    امضای مصوبه اولیه قانون ایمنی و آموزش مسئولانه هوش مصنوعی (RAISE) توسط کتی هوکول، فرماندار نیویورک.

  2. ژانویه ۲۰۲۶

    تأمین مالی ۵۵ میلیون دلاری برای احداث مرکز مسئولیت‌پذیری و پژوهش هوش مصنوعی در دانشگاه بینگهمتون.

  3. مارس ۲۰۲۶

    تصویب اصلاحیه قانون RAISE در پارلمان ایالتی به منظور هم‌راستاسازی آستانه‌های نظارتی با قوانین ایالت کالیفرنیا.

  4. اکتبر ۲۰۲۶

    ارائه پیش‌نویس قانون RAISE 2.0 از سوی قانون‌گذاران برای گسترش اختیارات بازرسی و الزام حسابرسی مستقل.

  5. نوامبر ۲۰۲۶

    افتتاح رسمی مرکز دولتی آزمایش هوش مصنوعی و راه‌اندازی درگاه ثبت‌نام برای سازندگان مدل‌های پیشرفته.

  6. ژانویه ۲۰۲۷

    آغاز اجرای کامل قانون RAISE و الزام انتشار چارچوب‌های ایمنی و اعلام رخدادهای بحرانی توسط توسعه‌دهندگان بزرگ.

نهادهای ناظر ایالتی 40%پژوهشگران دانشگاهی 35%تحلیل‌گران خط‌مشی 25%
نهادهای ناظر ایالتی
خواهان نظارت سفت‌وسخت و مستقل بر مدل‌های پیشگام هوش مصنوعی برای مصون ماندن جامعه از آسیب‌های احتمالی.
پژوهشگران دانشگاهی
متمرکز بر ارزیابی علمی و بنیادین سیستم‌های هوش مصنوعی با اتکا به ابررایانه‌ها فارغ از منافع تجاری شرکت‌ها.
تحلیل‌گران خط‌مشی
بررسی میزان کارآمدی قوانین ایالتی، چالش‌های فنی اجرا و شکاف‌های موجود در معیارهای سنجش خطر.

دیدگاه‌هایی که این گزارش پوشش نداده

  • توسعه‌دهندگان مدل‌های پیشگام هوش مصنوعی
  • حامیان هوش مصنوعی متن‌باز

منابع

پوشش منابع

5 منبع

3 دیدگاه شناسایی‌شده

نهادهای ناظر ایالتی 40%پژوهشگران دانشگاهی 35%تحلیل‌گران خط‌مشی 25%
  1. [1]Newsdayنهادهای ناظر ایالتی

    AI testing facility to be opened in NYS, Gov. Hochul says

    مطالعه در Newsday →
  2. [2]StateScoopنهادهای ناظر ایالتی

    A second version of the state's AI safety legislation would give regulators more authority to scrutinize model development, require independent audits and potentially limit computing resources used by AI companies

    مطالعه در StateScoop →
  3. [3]WGRZپژوهشگران دانشگاهی

    More than 80 researchers will work together at a new Binghamton University center focused on AI safety, security, and responsible use.

    مطالعه در WGRZ →
  4. [4]Unite.AIنهادهای ناظر ایالتی

    New York's independent testing center aims to verify frontier AI safety rather than…

    مطالعه در Unite.AI →
  5. [5]American Enterprise Instituteتحلیل‌گران خط‌مشی

    Regulating the Frontier: How California, New York, and Illinois Are Governing the Most Powerful AI Models

    مطالعه در American Enterprise Institute →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.