قانون هوش مصنوعی کلرادو ممیزی سوگیری را برای سیستم‌های استخدامی «پرخطر» الزامی می‌کند و استاندارد ملی تعیین می‌کند

عصر بخش منابع انسانی الگوریتمی بدون نظارت در حال پایان است. در طول پنج سال گذشته، شرکت‌ها به سرعت هوش مصنوعی را در جریان کار استخدامی خود ادغام کرده‌اند و از ابزارهای خودکار برای غربالگری رزومه‌ها، تجزیه و تحلیل مصاحبه‌های ویدیویی و پیش‌بینی ماندگاری نامزدها استفاده کرده‌اند. در حالی که این ابزارها کارایی بی‌سابقه‌ای ارائه می‌دهند، نگرانی‌های گسترده‌ای را در مورد سوگیری‌های نهفته و فرآیندهای تصمیم‌گیری مبهم نیز ایجاد کرده‌اند.[7]

اکنون، کلرادو در حال تعیین یک معیار ملی برای نحوه مدیریت این ابزارها توسط کسب‌وکارها است. این ایالت یک چارچوب قانونی جامع را به اجرا گذاشته است که کارفرمایان را مجبور می‌کند تا پرده از سیستم‌های استخدامی خودکار خود بردارند و اطمینان حاصل کنند که تلاش برای کارایی شرکتی به قیمت از دست رفتن عدالت الگوریتمی تمام نمی‌شود.[1][2]

در قلب تلاش نظارتی کلرادو، مفهوم «فناوری تصمیم‌گیری خودکار» (ADMT) قرار دارد. این قانون سیستم‌هایی را هدف قرار می‌دهد که به طور اساسی بر «تصمیمات مهم» تأثیر می‌گذارند—آستانه‌ای قانونی که صراحتاً شامل استخدام، جبران خسارت، ترفیعات و اخراج‌ها می‌شود. اگر یک الگوریتم عامل مهمی در تصمیم‌گیری برای مصاحبه یک نامزد یا افزایش حقوق یک کارمند باشد، مستقیماً تحت چتر نظارتی ایالت قرار می‌گیرد.[3][5]

مسیر رسیدن به این چارچوب از نظر سیاسی و حقوقی پرآشوب بوده است. در ماه مه ۲۰۲۴، کلرادو با تصویب لایحه سنا ۲۴-۲۰۵، که یک قانون جامع و تا حد زیادی الگوبرداری شده از قانون هوش مصنوعی اتحادیه اروپا بود، خبرساز شد. آن قانون اصلی شرکت‌ها را ملزم می‌کرد که برنامه‌های رسمی مدیریت ریسک را اجرا کنند و ارزیابی‌های تأثیر سالانه سخت‌گیرانه—که اساساً ممیزی‌های اجباری سوگیری هستند—برای هر سیستم هوش مصنوعی پرخطر انجام دهند.[4][6]

با این حال، قانون ۲۰۲۴ با مخالفت شدید صنعت فناوری و ائتلاف‌های تجاری مواجه شد. منتقدان استدلال کردند که الزامات سنگین مهندسی برای کسب‌وکارهای کوچک و متوسط غیرقابل اجرا است و تهدید می‌کند که نوآوری را خفه کرده و استانداردهای فدرال در حال ظهور را تکرار می‌کند. قانونگذاران ایالتی با توجه به احتمال اجرایی شدن قانون در سال ۲۰۲۶، یک کارگروه ویژه تشکیل دادند تا رویکرد را بازنگری کنند.[1][2]

نتیجه یک چرخش قانونی چشمگیر بود. در ماه مه ۲۰۲۶، فرماندار جرد پولیس لایحه سنا ۲۶-۱۸۹ را امضا کرد که رسماً قانون اصلی ۲۰۲۴ را قبل از اجرایی شدن لغو کرد و آن را با یک چارچوب ساده‌تر و متمرکز بر عملیات جایگزین نمود. این قانون جدید که قرار است از اول ژانویه ۲۰۲۷ اجرایی شود، بار نظارتی را از ممیزی‌های مهندسی پس‌زمینه به سمت شفافیت مصرف‌کننده در خط مقدم تغییر می‌دهد.[2][5]

بر اساس قانون بازنگری شده، وظیفه اصلی کارفرمایان افشاگری است. شرکت‌ها باید هر زمان که از یک ابزار هوش مصنوعی برای ارزیابی متقاضیان شغل و کارمندان برای یک تصمیم مهم استفاده می‌شود، یک «اطلاعیه قبل از استفاده» واضح ارائه دهند. هدف این است که استفاده پنهانی از الگوریتم‌ها در فرآیند استخدام حذف شود و اطمینان حاصل شود که نامزدها می‌دانند چه زمانی یک ماشین در حال خواندن رزومه یا تجزیه و تحلیل ارزیابی آنها است.[3][4]

الزامات شفافیت فراتر از غربالگری اولیه است. اگر یک نامزد رد شود یا یک کارمند به دلیل توصیه ADMT از ترفیع محروم شود، کارفرما از نظر قانونی موظف است «افشای پس از نتیجه نامطلوب» را ارائه دهد. این اطلاعیه باید نقشی را که سیستم هوش مصنوعی در تصمیم‌گیری ایفا کرده است، توضیح دهد و به فرد آسیب‌دیده دیدی نسبت به منطق خودکاری که مسیر شغلی او را شکل داده است، بدهد.[1][5]

نکته مهم این است که این قانون به کارگران و متقاضیان حق تجدیدنظر در مورد این قضاوت‌های الگوریتمی را می‌دهد. مصرف‌کنندگان—که قانون صراحتاً شامل کارمندان و جویندگان کار مستقر در کلرادو می‌شود—می‌توانند درخواست «بررسی انسانی معنادار» برای هر تصمیم نامطلوبی که به طور اساسی تحت تأثیر هوش مصنوعی قرار گرفته است، داشته باشند. این امر تضمین می‌کند که یک مدیر انسانی اختیار نهایی برای لغو را حفظ می‌کند و از داشتن حرف آخر و بدون مناقشه توسط الگوریتم‌ها جلوگیری می‌کند.[3][6]

در حالی که الزام رسمی برای «ارزیابی تأثیر» سالانه از لایحه نهایی حذف شد، کارشناسان حقوقی هشدار می‌دهند که واقعیت عملی همچنان نیازمند ممیزی دقیق سوگیری است. کارفرمایان نمی‌توانند نتیجه نامطلوب را به درستی توضیح دهند یا بررسی انسانی معنادار را تضمین کنند، مگر اینکه اساساً درک کنند که الگوریتم فروشنده هوش مصنوعی آنها چگونه متغیرهای مختلف را وزن می‌کند. در نتیجه، شرکت‌ها همچنان مجبورند سیستم‌های خود را برای جلوگیری از تبعیض الگوریتمی ممیزی کنند تا از مسئولیت قانونی بگریزند.[2][7]

یکی از تله‌های اصلی انطباق برای سازمان‌ها، افزایش «هوش مصنوعی سایه» (Shadow AI) است. این زمانی رخ می‌دهد که مدیران میانی یا کارکنان منابع انسانی به طور مستقل ابزارهای هوش مصنوعی مولد یا نرم‌افزارهای غیرمجاز را برای ارزیابی عملکرد یا نوشتن شرح شغل بدون تأیید متمرکز فناوری اطلاعات به کار می‌گیرند. از آنجایی که این قانون در مورد استفاده واقعی از ADMT در تصمیمات مهم اعمال می‌شود، این ابزارهای تأیید نشده می‌توانند ناخواسته الزامات سختگیرانه اطلاع‌رسانی و افشاگری را برای کل شرکت فعال کنند.[3][7]

چارچوب کلرادو در خلاء وجود ندارد؛ بلکه بخشی از یک وصله کاری ملی است که به سرعت در حال تثبیت است. قانون محلی ۱۴۴ شهر نیویورک قبلاً به شدت ممیزی سوگیری مستقل را برای ابزارهای تصمیم‌گیری استخدامی خودکار الزامی کرده است و کالیفرنیا نیز در حال نهایی کردن مقررات تصمیم‌گیری خودکار خود تحت CCPA است.[4][7]

برای کارفرمایان چند ایالتی، تقسیم فرآیندهای استخدام بر اساس مرزهای جغرافیایی در حال تبدیل شدن به یک غیرممکن لجستیکی است. شرکت‌های فورچون ۵۰۰ به جای ایجاد جریان‌های کاری منابع انسانی جداگانه برای کلرادو، نیویورک و کالیفرنیا، به طور فزاینده‌ای سخت‌گیرانه‌ترین الزامات ایالتی را به عنوان استاندارد ملی پایه خود اتخاذ می‌کنند.[1][2]

دفتر دادستان کل کلرادو در حال حاضر در حال تدوین قوانین اداری خاصی است که اجرای قانون را هدایت خواهد کرد و انتظار می‌رود دستورالعمل‌های نهایی قبل از تاریخ اجرای ژانویه ۲۰۲۷ منتشر شود. این قوانین دقیقاً مشخص خواهند کرد که «بررسی انسانی معنادار» چیست و توضیحات نتایج نامطلوب باید چقدر جزئی باشند.[5][6]

با نزدیک شدن به مهلت ۲۰۲۷، پیام به دنیای شرکت‌ها صریح است: جعبه سیاه استخدام با هوش مصنوعی مجبور به باز شدن است. کلرادو با تغییر تمرکز به سمت شفافیت، پاسخگویی و نظارت انسانی، اطمینان می‌دهد که آینده کار، حتی با وجود خودکار شدن فزاینده، اساساً انسانی باقی می‌ماند.[7]