عجله شهرهای آمریکا برای تصویب سیاست‌های رسمی حاکمیت هوش مصنوعی برای مقابله با سوگیری، حریم خصوصی و خطرات سوابق عمومی

در سراسر ایالات متحده، دولت‌های محلی به سرعت در حال گذار از صرفاً آزمایش هوش مصنوعی به سمت حاکمیت رسمی بر استفاده از آن هستند. صدها شهرداری که توسط وعده دوگانه افزایش کارایی عملیاتی و خطرات قریب‌الوقوع نقض داده‌ها و سوگیری الگوریتمی هدایت می‌شوند، در ماه‌های اخیر سیاست‌های داخلی سختگیرانه‌ای در مورد هوش مصنوعی وضع کرده‌اند. هدف این چارچوب‌ها ارائه راهنماهای روشنی برای کارمندان دولتی است که در حال حرکت در یک چشم‌انداز به طور فزاینده خودکار هستند، و تضمین می‌کنند که ادغام فناوری نسل جدید، اعتماد عمومی را به خطر نمی‌اندازد. از کلان‌شهرهای بزرگ گرفته تا شهرهای کوچک روستایی، مدیران شهری درک می‌کنند که نبود مقررات فدرال، دولت‌های محلی را مسئول تعریف نحوه استقرار هوش مصنوعی در زندگی مدنی می‌کند.[1][2]

فشار برای مقررات شهری در حالی صورت می‌گیرد که ابزارهای هوش مصنوعی مولد مانند ChatGPT و Microsoft Copilot در محیط‌های اداری فراگیر شده‌اند و فروشندگان به طور فزاینده‌ای تصمیم‌گیری خودکار را در نرم‌افزارهای استاندارد دولتی تعبیه می‌کنند. رهبران شهری اذعان دارند که اگرچه این ابزارها پتانسیل عظیمی برای تهیه گزارش‌های روتین، ترجمه جلسات عمومی به صورت همزمان و بهینه‌سازی خدمات شهری مانند مدیریت ترافیک ارائه می‌دهند، اما خطرات جدی نیز دارند. اگر کارمندان دولتی داده‌های حساس شهروندان را وارد مدل‌های باز هوش مصنوعی کنند، یا اگر الگوریتم‌ها بدون نظارت انسانی برای تصمیم‌گیری رها شوند، شهرها خود را در معرض نقض گسترده حریم خصوصی و مسئولیت‌های قانونی قرار می‌دهند. در نتیجه، موج جدید سیاست‌های شهری برای بهره‌برداری از مزایای هوش مصنوعی و در عین حال کاهش شدید آسیب‌پذیری‌های ذاتی آن طراحی شده است.[2][5]

سن خوزه (San José)، کالیفرنیا، به عنوان یک مرکز اصلی برای این جنبش شهری ظهور کرده است. پایتخت سیلیکون ولی، پس از تبدیل شدن به یکی از اولین شهرهای ایالات متحده که دستورالعمل‌های جامع هوش مصنوعی را برای کارکنان خود منتشر کرد، ائتلاف GovAI را راه‌اندازی کرد تا چارچوب‌های حاکمیتی خود را با سایر حوزه‌های قضایی به اشتراک بگذارد. این ائتلاف به سرعت به بیش از ۸۰۰ عضو که نماینده بیش از ۳۰۰ دولت محلی در سراسر کشور هستند، افزایش یافته است. این شبکه مشارکتی به سازمان‌هایی از لس آنجلس گرفته تا شهرهایی با تنها ۱۵۰۰ نفر جمعیت اجازه می‌دهد تا منابع را به اشتراک بگذارند، دستورالعمل‌های تدارکات یکپارچه ایجاد کنند و از داده‌های جمعی برای ساخت مدل‌های هوش مصنوعی بهتر و ایمن‌تر برای بهبود خدمات عمومی استفاده کنند.[4]

سیاست‌های ناشی از این ائتلاف سراسری، چندین ستون اصلی مشترک دارند که مهم‌ترین آنها الزام سختگیرانه «انسان در حلقه» (human-in-the-loop) است. دستورالعمل‌های شهری به طور جهانی حکم می‌کنند که کارمندان شهر باید محتوای تولید شده توسط هوش مصنوعی را قبل از استفاده در امور رسمی یا به اشتراک گذاشتن با عموم، بررسی، تأیید و مسئولیت نهایی آن را بپذیرند. هوش مصنوعی به صراحت به عنوان یک دستیار در نظر گرفته می‌شود تا یک تصمیم‌گیرنده مستقل. این امر تضمین می‌کند که فناوری، کار بخش دولتی را تسهیل می‌کند بدون اینکه قضاوت انسانی را نادیده بگیرد یا از پاسخگویی که شهروندان از نمایندگان محلی خود انتظار دارند، بکاهد.[1][2]

حفاظت از داده‌های شهروندان یکی دیگر از تمرکزهای اصلی این چارچوب‌های نوظهور است. سیاست‌های شهری به شدت کارمندان را از وارد کردن اطلاعات محرمانه، محافظت‌شده یا اطلاعات قابل شناسایی شخصی (PII) به پلتفرم‌های عمومی هوش مصنوعی مولد منع می‌کنند. علاوه بر این، شهرها در حال ایجاد استانداردهای تدارکاتی سختگیرانه برای بررسی نرم‌افزارهای شخص ثالث هستند. اکنون از بخش‌های فناوری اطلاعات خواسته می‌شود که قبل از خرید یا استقرار هر نرم‌افزاری، نحوه جمع‌آوری، ذخیره و آموزش مدل‌های فروشندگان هوش مصنوعی بر روی داده‌های دولتی را به طور کامل ارزیابی کنند. هدف این رویکرد پیشگیرانه جلوگیری از نشت ناخواسته سوابق عمومی حساس به مجموعه داده‌های آموزشی شرکت‌های فناوری تجاری است.[2][3]

برای مبارزه با سوگیری الگوریتمی و تضمین نتایج عادلانه، شهرها در حال اجرای ممیزی‌های اجباری و حفاظت‌های سختگیرانه از نیروی کار هستند. در آستین (Austin)، تگزاس، شورای شهر قطعنامه‌ای اخلاقی در مورد هوش مصنوعی تصویب کرد که مستلزم ممیزی عمومی سالانه استفاده شهر از هوش مصنوعی برای شناسایی و کاهش تبعیض احتمالی است. این قطعنامه همچنین امتیازدهی بهره‌وری مبتنی بر هوش مصنوعی یا نظارت رفتاری بر کارگران شهرداری را بدون تأیید انسانی ممنوع می‌کند. نکته مهم این است که سیاست «عدم جابجایی بدون مشورت» را ایجاد می‌کند و تضمین می‌کند که هوش مصنوعی نمی‌تواند برای تغییر قابل توجه طبقه‌بندی‌های شغلی موجود شهرداری بدون اطلاع قبلی و مشورت مشارکتی با کارکنان استفاده شود.[1]

سیاتل (Seattle)، که سیاست جامع هوش مصنوعی خود را پس از اجرای تقریباً ۴۰ برنامه آزمایشی مختلف در بخش‌های گوناگون به‌روزرسانی کرد، موضع قاطعی در مورد کاربردهای پرخطر اتخاذ کرده است. دستورالعمل‌های به‌روز شده این شهر به صراحت استفاده از هوش مصنوعی برای تحلیل احساسات، امتیازدهی اجتماعی یا ادغام با سیستم‌های تسلیحاتی را ممنوع می‌کند. این نشان‌دهنده اجماع رو به رشدی در میان دولت‌های محلی است که برخی موارد استفاده اساساً با آزادی‌های مدنی و اعتماد عمومی ناسازگار هستند. با ترسیم خطوط قرمز واضح، شهرها به فروشندگان و ساکنان سیگنال می‌دهند که قابلیت تکنولوژیکی بر مرزهای اخلاقی غلبه نخواهد کرد.[1]

عجله شهرداری‌ها برای حاکمیت بر استفاده داخلی از هوش مصنوعی، موازی با تلاش‌های قانونگذاری گسترده‌تر در سطح ایالتی است. در اوایل ژوئیه ۲۰۲۶، ایالت ایلینوی (Illinois) به کالیفرنیا و نیویورک پیوست تا قوانین گسترده هوش مصنوعی را با هدف توسعه‌دهندگان مدل‌ها تصویب کند. در حالی که این قوانین ایالتی بر جلوگیری از خطرات فاجعه‌بار، اجباری کردن آزمایش‌های ایمنی و تنظیم مقررات صنعت فناوری گسترده‌تر تمرکز دارند، سیاست‌های شهری همچنان به شدت بر واقعیت‌های عملیاتی روزمره کارمندان دولتی متمرکز هستند. این تلاش‌های محلی و ایالتی در مجموع، در غیاب اقدام جامع فدرال، یک محیط نظارتی وصله‌کاری شده ایجاد می‌کنند.[6][7]

فراتر از ایجاد قوانین داخلی برای کارمندان، برخی از شهرهای آینده‌نگر، حاکمیت و آموزش هوش مصنوعی را مستقیماً به عموم مردم می‌برند. سن خوزه اخیراً ابتکار «هوش مصنوعی برای همه» را راه‌اندازی کرده و با شرکت‌های بزرگ فناوری همکاری می‌کند تا کارگاه‌های سواد هوش مصنوعی رایگان را در کتابخانه‌های عمومی ارائه دهد. هدف این برنامه آموزش به سالمندان در مورد نحوه استفاده از هوش مصنوعی برای کارهای روزمره و کمک به جویندگان کار برای استفاده از این فناوری برای بهبود رزومه‌ها و درخواست‌های شغلی‌شان است. دولت‌های محلی با گسترش سواد هوش مصنوعی امیدوارند اطمینان حاصل کنند که مزایای این فناوری به طور گسترده در دسترس است و محدود به افراد مطلع و آشنا به فناوری نیست.[1]

از آنجا که هوش مصنوعی با سرعتی سرسام‌آور به تکامل خود ادامه می‌دهد، رهبران شهری اذعان دارند که سیاست‌های آنها نیازمند بازنگری و انطباق مستمر خواهد بود. با این حال، دولت‌های محلی با ایجاد قوانین اساسی در مورد شفافیت، حریم خصوصی داده‌ها و پاسخگویی انسانی در امروز، ثابت می‌کنند که نوآوری و حاکمیت مسئولانه می‌توانند با موفقیت همزیستی داشته باشند. این اقدامات پیشگیرانه در حال تعیین استاندارد بالایی برای پذیرش فناوری در بخش دولتی هستند و نشان می‌دهند که شهرها می‌توانند عملیات خود را مدرن کنند و در عین حال به شدت از حقوق و داده‌های ساکنانی که به آنها خدمت می‌کنند، محافظت نمایند.[2][3]