هوش مصنوعی عاملیت‌محور در دولت به «بخش دشوار» می‌رسد: تعیین اینکه ماشین چه چیزی را می‌تواند تصمیم بگیرد

دولت مدرن اداری بر پایه کاغذبازی، فرآیند و سابقه بنا شده است. برای دهه‌ها، دولت‌ها تلاش کرده‌اند این سازوکار را دیجیتالی کنند و کابینت‌های بایگانی را با پایگاه‌های داده و ورود دستی اطلاعات را با اسکریپت‌های نرم‌افزاری پایه جایگزین سازند. این تلاش‌های اولیه، دستاوردهای بهره‌وری متوسطی داشتند، اما ساختار اساسی کار بوروکراتیک را حفظ کردند: انسان‌ها تصمیم می‌گرفتند و ماشین‌ها آن‌ها را ثبت می‌کردند.

اما اکنون یک آستانه جدید در حال عبور است. هوش مصنوعی در حال تغییر از یک ابزار غیرفعال که اطلاعات را بازیابی می‌کند، به یک همکار فعال است که وظایف پیچیده را اجرا می‌کند. این عصر «هوش مصنوعی عاملیت‌محور» است—سیستم‌هایی که قادرند یک هدف سطح بالا را دریافت کنند، آن را به مراحل متوالی تقسیم کنند و به طور خودمختار، بدون نیاز به دخالت انسان در هر مرحله، فرآیند کار را تا تکمیل هدایت کنند.

جذابیت این امر برای بخش‌های عمومی تحت فشار بسیار زیاد است. در سراسر جهان، سازمان‌های دولتی با افزایش حجم پرونده‌ها، بودجه‌های راکد و الزام به ارائه خدمات سریع‌تر و شخصی‌تر مواجه هستند. بر اساس یک مطالعه مهم توسط دانشگاه استنفورد و کنفرانس اداری ایالات متحده، تقریباً نیمی از کل سازمان‌های اداری فدرال در حال حاضر در حال آزمایش ابزارهای هوش مصنوعی برای مدیریت این بار کاری هستند.[1]

با این حال، همانطور که این سیستم‌های خودمختار از برنامه‌های آزمایشی به زیرساخت‌های اصلی منتقل می‌شوند، با یک ستون اساسی حکمرانی دموکراتیک یعنی قانون در تضاد قرار می‌گیرند. دشوارترین بخش استقرار هوش مصنوعی عاملیت‌محور در دولت، نوشتن کد نیست، بلکه تصمیم‌گیری در مورد اینکه ماشین به طور قانونی مجاز به تصمیم‌گیری در مورد چه چیزی است.

برای درک این اصطکاک، ابتدا باید سازوکار هوش مصنوعی عاملیت‌محور را فهمید. اتوماسیون سنتی دولتی بر «اتوماسیون فرآیند رباتیک» (RPA) متکی است. RPA قطعی است؛ از قوانین سفت و سخت و از پیش برنامه‌ریزی شده پیروی می‌کند. اگر شهروندی فرمی را با یک فیلد ناقص ارسال کند، اسکریپت RPA متوقف می‌شود یا خطا را علامت‌گذاری می‌کند. این سیستم نمی‌تواند با استدلال، راهی برای دور زدن یک استثنا پیدا کند.[4]

هوش مصنوعی عاملیت‌محور به گونه‌ای متفاوت عمل می‌کند. یک عامل هوش مصنوعی که توسط مدل‌های زبان بزرگ و استدلال متنی تقویت شده است، می‌تواند قصد و نیت را درک کند. اگر وظیفه تحلیل نظرات عمومی در مورد یک مقرره پیشنهادی به آن محول شود، صرفاً به دنبال کلمات کلیدی نمی‌گردد. می‌تواند هزاران اظهارنظر را بخواند، استدلال‌های اساسی را شناسایی کند، نگرانی‌های یکسان را صرف نظر از نحوه بیان گروه‌بندی کند و خلاصه‌ای ترکیبی برای سیاست‌گذاران تهیه کند.[3]

در یک زمینه تدارکات، یک سیستم عاملیت‌محور می‌تواند به طور خودمختار پایگاه‌های داده فروشندگان را نظارت کند، سوابق انطباق را بررسی کند، آسیب‌پذیری‌های قانونی بالقوه را علامت‌گذاری کند و پرونده نهایی شده را به بخش مناسب هدایت کند. هوش مصنوعی وابستگی‌های متوالی و فرآیندهای موازی را که مشخصه مدیریت بوروکراتیک هستند، مدیریت می‌کند.

این قابلیت نشان‌دهنده یک تغییر پارادایم در بهره‌وری است، اما یک گلوگاه قانونی عمیق ایجاد می‌کند. حقوق اداری بر اصل پاسخگویی بنا شده است. هنگامی که یک قوه مقننه به یک سازمان قدرت تنظیم مقررات، توزیع مزایا یا اجرای قوانین را اعطا می‌کند، انتظار دارد که این قدرت توسط مقامات انسانی پاسخگو اعمال شود.

این امر به عنوان «اصل عدم تفویض اختیار» شناخته می‌شود. در حالی که یک سازمان می‌تواند وظایف اداری روتین را تفویض کند، نمی‌تواند قدرت صلاحدیدی خود—قضاوت خود—را به طور غیرقانونی به یک شخص ثالث غیرمجاز واگذار کند. هرچه عوامل هوش مصنوعی پیچیده‌تر می‌شوند، مرز بین «پردازش اطلاعات» و «اعمال قضاوت» شروع به محو شدن می‌کند.

اگر یک عامل هوش مصنوعی یک درخواست معلولیت را بررسی کند، سوابق پزشکی را ترکیب کند و بر اساس تفسیر خود از دستورالعمل‌های سازمان، پیش‌نویس توصیه‌ای برای رد درخواست تهیه کند، در واقع چه کسی در حال تصمیم‌گیری است؟ اگر یک مقام انسانی صرفاً روی «تأیید» پاسخ تهیه‌شده توسط هوش مصنوعی کلیک کند، ممکن است دادگاه‌ها این عمل را به عنوان تفویض بالفعل قدرت اداری به یک ماشین تلقی کنند.

حقوقدانان و قانون‌گذاران دیجیتال هشدار می‌دهند که این پویایی، تحول ساختاری در خدمات عمومی را تحمیل می‌کند. دولت در حال تغییر از یک مدل تصمیم‌گیری فعال انسانی به یک مدل «نظارت» انسانی است.[2]

تحت این چارچوب نوظهور—که در مقرراتی مانند قانون هوش مصنوعی اتحادیه اروپا تدوین شده است و نظارت فرد طبیعی را برای هوش مصنوعی پرخطر در بخش عمومی الزامی می‌کند—ماشین کار سنگین را انجام می‌دهد. بوروکرات انسانی در «حلقه نظارت» قرار می‌گیرد و وظیفه دارد عملکرد سیستم را زیر نظر داشته باشد و در صورت لزوم مداخله کند.[2]

هدف حفظ پاسخگویی قانونی است. هوش مصنوعی می‌تواند به طور خودمختار مسیریابی فرآیند کار، ردیابی اسناد و تولید محتوا را مدیریت کند، اما کارشناسان انسانی باید اختیار نهایی را برای مسائل سیاست‌گذاری اساسی و تفسیرهای نظارتی حفظ کنند. اعتبار قانونی تصمیم کاملاً به امضای انسان بستگی دارد.[5]

با این حال، این راه‌حل مجموعه‌ای از خطرات خاص خود را به همراه دارد که مهم‌ترین آنها «سوگیری اتوماسیون» است. این یک تمایل روان‌شناختی مستند است که انسان‌ها به خروجی‌های سیستم‌های خودکار اعتماد بیش از حد می‌کنند و به آن‌ها تمکین می‌کنند، به ویژه زمانی که آن سیستم‌ها بسیار پیچیده باشند و انسان تحت فشار زمانی قرار داشته باشد.[2]

اگر یک کارمند دولتی موظف باشد روزانه بر صدها تصمیم تولید شده توسط هوش مصنوعی نظارت کند، این نظارت می‌تواند به راحتی به یک تأیید کورکورانه تبدیل شود. نظارت معنادار انسانی مستلزم آن است که مقام مربوطه فرآیند تحلیلی را که هوش مصنوعی از طریق آن به نتیجه رسیده است، به طور کامل درک کند—کاری دلهره‌آور هنگام کار با شبکه‌های عصبی پیشرفته که به عنوان «جعبه‌های سیاه» عمل می‌کنند.

علاوه بر این، تغییر به یک دولت نظارت‌گر، رابطه معرفتی بین دولت و شهروند را تغییر می‌دهد. هنگامی که سیستم‌های خودکار موارد روتین را مدیریت می‌کنند، کارمندان دولتی از واقعیت‌های روزمره مردمی که به آنها خدمت می‌کنند، منزوی می‌شوند و تنها برای مدیریت استثناها و موارد خاص وارد عمل می‌شوند.

چالش دهه آینده حقوق اداری، پر کردن شکاف بین توانایی فنی و کنترل دموکراتیک خواهد بود. دولت‌ها باید فرآیندهای کاری ترکیبی طراحی کنند که از مزایای نسبی انسان‌ها و ماشین‌ها بهره ببرند.

هوش مصنوعی در تشخیص الگو، مقیاس و تحلیل روتین برتری دارد. انسان‌ها برای همدلی، مدیریت ابهام و تحمل بار اخلاقی و قانونی قدرت دولتی ضروری باقی می‌مانند. همانطور که هوش مصنوعی عاملیت‌محور به تکامل خود ادامه می‌دهد، آزمون واقعی نوسازی دولت این خواهد بود که اطمینان حاصل شود سازوکار دولت به پاسخگویی انسانی گره خورده باقی می‌ماند.