سازوکار جریان‌های کاری عامل‌محور: هوش مصنوعی چگونه وظایف چندمرحله‌ای را اجرا می‌کند و محدودیت‌های خودمختاری آن کجاست؟

در سه سال گذشته، تعامل با هوش مصنوعی عمدتاً به معنای تایپ یک دستور (Prompt) و انتظار برای یک پاسخ ثابت بوده است. اگر خروجی اشتباه بود، کاربر دستور را تنظیم می‌کرد و دوباره تلاش می‌کرد. اما یک تغییر معماری اساسی در حال انتقال هوش مصنوعی از یک ابزار واکنشی به یک مجری پیش‌فعال است. جریان‌های کاری عامل‌محور سیستم‌هایی هستند که در آن‌ها هوش مصنوعی فقط متن تولید نمی‌کند، بلکه فعالانه برنامه‌ریزی می‌کند، ابزارهای خارجی را فرا می‌خواند و برای دستیابی به یک هدف سطح بالا، اشتباهات خود را تکرار و اصلاح می‌کند. برای کاربران سازمانی، این تفاوت بین هوش مصنوعی است که پیش‌نویس پاسخ خدمات مشتری را می‌نویسد و هوش مصنوعی است که به طور مستقل بازپرداخت صادر می‌کند، پایگاه داده را به‌روزرسانی می‌کند و تیکت را می‌بندد.[1]

زبان بازاریابی پیرامون «هوش مصنوعی خودمختار» اغلب یک کارمند دیجیتال هوشمند را تداعی می‌کند که قادر به جایگزینی کل بخش‌ها است. اما در واقعیت، قابلیت زیربنایی بسیار مکانیکی‌تر است. هوش مصنوعی عامل‌محور نوع جدیدی از مدل نیست؛ بلکه یک رویکرد جدید برای هماهنگ‌سازی است که بر روی مدل‌های زبان بزرگ موجود بنا شده است. توسعه‌دهندگان با قرار دادن یک مدل استاندارد در یک حلقه استدلالی ساختاریافته و دادن دسترسی به رابط‌های برنامه‌نویسی کاربردی (API)، می‌توانند سیستم را وادار کنند تا مسائل پیچیده را به مراحل متوالی تقسیم کند. این موضوع کمتر در مورد خلق یک هوش جدید است و بیشتر در مورد ساخت یک داربست است که به هوش موجود اجازه می‌دهد با دنیای فیزیکی و دیجیتال تعامل کند.[1]

موتور اصلی که اکثر سیستم‌های عامل‌محور مدرن را به حرکت در می‌آورد، چارچوب ReAct است که مخفف «استدلال و عمل» (Reasoning and Acting) است. این چارچوب که اولین بار توسط محققان در سال ۲۰۲۳ رسمی شد، به مدل زبان دستور می‌دهد که بین استدلال داخلی و عمل خارجی تناوب ایجاد کند. هنگامی که یک وظیفه به عامل داده می‌شود، ابتدا یک «فکر» (Thought) تولید می‌کند، مثلاً تشخیص می‌دهد که باید سطح اشتراک فعلی کاربر را پیدا کند. سپس یک «عمل» (Action) تولید می‌کند، که ممکن است شامل فراخوانی یک ابزار پایگاه داده مدیریت ارتباط با مشتری باشد. در نهایت، یک «مشاهده» (Observation) دریافت می‌کند که داده‌های خام بازگشتی توسط آن ابزار خاص است.[2]

این چرخه ذاتاً یک حلقه بازخورد مستمر ایجاد می‌کند. اگر فراخوانی ابزار شکست بخورد یا داده‌های غیرمنتظره‌ای بازگرداند، عامل صرفاً از کار نمی‌افتد یا برای پر کردن خلاء، پاسخی توهم‌آمیز تولید نمی‌کند. در عوض، مشاهده شکست به پنجره زمینه مدل بازگردانده می‌شود و یک فکر جدید را تحریک می‌کند. مدل ممکن است استدلال کند که جستجوی پایگاه داده شکست خورده است زیرا شماره شناسایی کاربر وجود نداشته است، و تصمیم بگیرد ابتدا در گزارش‌های ایمیل به دنبال آن شماره بگردد. این توانایی در بازیابی از خطاها و انطباق با اطلاعات جدید است که جریان کار عامل‌محور را از یک اسکریپت خودکار استاندارد متمایز می‌کند.[2]

«اعمال» در یک حلقه ReAct از طریق فراخوانی‌های ابزار خاصی اجرا می‌شوند. توسعه‌دهندگان عامل را به مجموعه‌ای تعریف‌شده از ابزارها مجهز می‌کنند که می‌تواند از قابلیت‌های جستجوی ساده وب تا اجرای کد پایتون، جستجوی SQL یا دسترسی به شبکه داخلی شرکت متغیر باشد. مدل زبان با شرح مفصلی از عملکرد هر ابزار و ورودی‌هایی که برای کارکرد نیاز دارد، ارائه می‌شود. در طول مرحله استدلال، مدل وضعیت فعلی خود را ارزیابی می‌کند، تصمیم می‌گیرد کدام ابزار برای گام بعدی فوری مناسب‌تر است و پارامترهای لازم را برای اجرای موفقیت‌آمیز فراخوانی قالب‌بندی می‌کند.[2]

برای حفظ انسجام در جریان‌های کاری طولانی و پیچیده، سیستم‌های عامل‌محور به معماری‌های حافظه پایدار نیاز دارند. مدل‌های زبان استاندارد کاملاً بی‌حالت (Stateless) هستند؛ آن‌ها همه چیز را پس از پایان یک جلسه تولید فراموش می‌کنند. با این حال، عامل‌ها یک حالت داخلی را حفظ می‌کنند و اغلب از پایگاه‌های داده برداری (Vector Databases) برای ذخیره نتایج میانی، تعاملات گذشته و ترجیحات بلندمدت کاربر استفاده می‌کنند. این افزودنی معماری به یک عامل اجازه می‌دهد تا یک وظیفه را متوقف کند، منتظر ورودی انسانی یا به‌روزرسانی‌های سیستم خارجی بماند و روزها بعد با زمینه کامل آنچه قبلاً انجام شده است، کار را از سر بگیرد.[2]

در حالی که چارچوب ReAct قابلیت‌های چشمگیری را فعال می‌کند، اساساً اقتصاد استقرار هوش مصنوعی را تغییر می‌دهد. تولید استاندارد به صورت خطی مقیاس‌پذیر است: یک دستور برابر با یک پاسخ است و هزینه محاسباتی بسیار قابل پیش‌بینی است. با این حال، جریان‌های کاری عامل‌محور با پیچیدگی وظیفه به صورت تصاعدی مقیاس می‌یابند. هر بار که عامل یک چرخه فکر، عمل و مشاهده را کامل می‌کند، کل تاریخچه تعامل — شامل دستور سیستم، توضیحات ابزار و تمام مراحل قبلی — باید توسط مدل دوباره پردازش شود تا حرکت بعدی تعیین گردد.[3]

این بازپردازش تکراری منجر به مصرف انبوه توکن می‌شود که مستقیماً به قبض‌های بالاتر محاسبات ابری ترجمه می‌شود. وظیفه‌ای که ممکن است دو دقیقه طول بکشد تا توسط انسان تکمیل شود، می‌تواند عامل را ملزم کند که پنج یا شش حلقه استدلالی را اجرا کند و هزاران توکن در هر مرحله مصرف کند. تحقیقات اخیر در زمینه بهینه‌سازی جریان کار عامل بر شناسایی الگوهای اجرای ابزار تکراری و ادغام آن‌ها در «ابزارهای فرعی» (Meta-tools) برای کاهش این سربار متمرکز شده است. محققان با ساده‌سازی نحوه استدلال عامل‌ها در مورد وظایف تکراری، به کاهش مصرف توکن تا ۱۱.۹٪ دست یافته‌اند، اگرچه هزینه‌های پایه همچنان به طور قابل توجهی بالاتر از تولید استاندارد باقی می‌ماند.[3][5]

فراتر از هزینه محاسباتی، گذار به اجرای پیش‌فعال، چالش‌های مهمی در زمینه حریم خصوصی و اعتماد ایجاد می‌کند. هنگامی که هوش مصنوعی صرفاً محتوایی را پیشنهاد می‌کند، کاربر انسانی قبل از انجام هر اقدامی، داور نهایی باقی می‌ماند. اما وقتی یک عامل خودمختاری ارسال ایمیل، اصلاح فایل‌ها یا اجرای تراکنش‌های مالی را دارد، مشخصات ریسک به شدت تغییر می‌کند. معضل شخصی‌سازی و حریم خصوصی از این سؤال که چه کسی به داده‌ها دسترسی دارد، به این سؤال تغییر می‌کند که چه کسی اختیار عمل بر روی آن‌ها را دارد.[4]

مطالعات در مورد اعتماد کاربر به این سیستم‌ها، یک پویایی غیرمنتظره در مورد نظارت انسانی را آشکار می‌کند. در حالی که ممکن است کسی فرض کند حداکثر کنترل انسانی حداکثر اعتماد را به همراه دارد، تحقیقات نشان می‌دهد که در واقع «خودمختاری میانی» راحتی کاربر را بهینه می‌کند. در این مدل، عامل مراحل روتین را به طور مستقل انجام می‌دهد اما قبل از اجرای اقدامات حساس، صراحتاً درخواست مجوز می‌کند. در آزمایش‌های کنترل‌شده، خودمختاری میانی اعتماد کاربر را در مقایسه با سیستم‌های بدون خودمختاری، تقریباً نیم امتیاز افزایش داد، در حالی که نگرانی‌های کلی حریم خصوصی را به طور قابل توجهی کاهش داد.[4][5]

توانایی عامل‌ها برای اجرای توالی‌های عملیاتی نامحدود نیز مورد بررسی شدید نظارتی قرار گرفته است. چارچوب‌های ایمنی سنتی تقریباً منحصراً بر میزان قدرت محاسباتی مورد استفاده برای آموزش یک مدل تمرکز کرده‌اند، با این فرض که مدل‌های بزرگ‌تر ذاتاً خطرناک‌تر هستند. با این حال، محققان به طور فزاینده‌ای استدلال می‌کنند که مقررات باید به مرحله استنتاج (Inference) بپردازند. آن‌ها پیشنهاد می‌کنند که طول و ساختار نمودارهای عمل خودمختاری را که یک عامل می‌تواند بدون دخالت انسان اجرا کند، محدود کنند و استدلال می‌کنند که رفتار در محیط واقعی معیار بهتری برای ریسک است تا پارامترهای آموزشی.

نسل فعلی هوش مصنوعی عامل‌محور در محیط‌های محدود با معیارهای موفقیت روشن، مانند تست نرم‌افزار یا بازیابی داده‌های ساختاریافته، بسیار مؤثر است. با این حال، در محیط‌های نامحدود، عامل‌ها مستعد شکست‌های آبشاری هستند. یک «فکر» توهم‌آمیز می‌تواند منجر به فراخوانی نادرست ابزار شود، که داده‌های نامربوط را بازمی‌گرداند و استدلال گیج‌کننده بیشتری را تحریک می‌کند. بدون حفاظ‌های سخت‌گیرانه، یک عامل به راحتی می‌تواند خود را در یک حلقه بی‌پایان از اقدامات بی‌ثمر به دام اندازد و توکن‌ها را بسوزاند بدون اینکه هرگز به راه‌حلی نزدیک شود.[2]

مسیر فناوری سازمانی به وضوح به سمت سیستم‌های عامل‌محور در حرکت است، با چارچوب‌هایی که نحوه ساخت و استقرار این جریان‌های کاری چندمرحله‌ای را در صنایع مختلف استاندارد می‌کنند. اما موفق‌ترین پیاده‌سازی‌ها احتمالاً کارگران دیجیتال کاملاً خودمختاری نخواهند بود که به طور کامل در پس‌زمینه کار می‌کنند. در عوض، آن‌ها سیستم‌های خودمختاری میانی و بسیار هماهنگ‌شده‌ای خواهند بود که از حلقه ReAct برای کارهای سنگین استفاده می‌کنند، در حالی که برای تصمیم‌گیری‌های حیاتی به نظارت استراتژیک انسانی متکی هستند و وعده اتوماسیون را با واقعیت‌های هزینه و اعتماد متعادل می‌کنند.[1][4]