هوش مصنوعی عامل (AI Agent) چیست؟ تفاوت آن با مدل‌های زبانی استاندارد

بسیاری از کمپین‌های بازاریابی ادعا می‌کنند که مدل‌های زبانی بزرگ (LLMs) هوش مصنوعی خودمختاری هستند که می‌توانند وظایف پیچیده شغلی را به طور کامل بر عهده بگیرند. اما پژوهشگران علوم کامپیوتر نشان می‌دهند که این ادعا با واقعیت ساختاری در تضاد است.

یک مدل زبانی استاندارد، تنها یک موتور پیش‌بینی متن است؛ بدون یک چارچوب «عامل‌محور» (Agentic) که حافظه و دسترسی به ابزارها را فراهم کند، قادر به اجرای وظایف چندمرحله‌ای در دنیای واقعی نیست. لیلیان ونگ، پژوهشگر برجسته هوش مصنوعی، در سال ۲۰۲۳ در مقاله بنیادین خود نوشت: «مدل زبانی به عنوان کنترل‌کننده مرکزی عمل می‌کند، اما نیازمند اجزای کلیدی دیگری برای تبدیل شدن به یک عامل خودمختار است.»[1]

برای درک این تفاوت، باید مدل زبانی را صرفاً به عنوان «مغز» در نظر گرفت. هنگامی که این مغز در درون یک سیستم نرم‌افزاری بزرگتر قرار می‌گیرد که به آن اجازه می‌دهد محیط اطراف را درک کند، تصمیم بگیرد و اقداماتی را انجام دهد، ما با یک «عامل هوش مصنوعی» روبرو هستیم. مستندات فنی شرکت آی‌بی‌ام (IBM) عامل‌ها را به عنوان سیستم‌هایی تعریف می‌کند که «می‌توانند محیط خود را درک کرده و برای دستیابی به اهداف مشخص، اقدامات مستقلی انجام دهند.»[3]

معماری یک عامل هوشمند بر سه ستون اصلی استوار است: برنامه‌ریزی، حافظه و استفاده از ابزار. در بخش برنامه‌ریزی، عامل باید بتواند یک هدف بزرگ و مبهم را به مراحل کوچک‌تر و قابل مدیریت تقسیم کند. پژوهشگران دانشگاه پرینستون در مقاله سال ۲۰۲۳ خود با عنوان «معماری‌های شناختی برای عامل‌های زبانی»، این توانایی را مرز تمایز اصلی میان یک چت‌بات ساده و یک عامل خودمختار می‌دانند.[2]

یکی از تکنیک‌های کلیدی در این زمینه، چارچوب «استدلال و عمل» (ReAct) است. در این روش، عامل پیش از انجام هر کاری، ابتدا با صدای بلند فکر می‌کند، سپس یک اقدام (مانند جستجو در وب) را انتخاب کرده و نتایج آن را مشاهده می‌کند. این حلقه بازخورد به عامل اجازه می‌دهد تا اشتباهات خود را در لحظه اصلاح کند و مسیر رسیدن به هدف را بر اساس اطلاعات جدید تغییر دهد.[1]

ستون دوم، حافظه است. مدل‌های زبانی به طور پیش‌فرض فراموش‌کار هستند و تنها به اندازه «پنجره زمینه» (Context Window) خود - که امروزه بین ۱۲۸ هزار تا ۲ میلیون توکن متغیر است - اطلاعات را در لحظه نگه می‌دارند. عامل‌های هوشمند این محدودیت را با استفاده از پایگاه‌های داده خارجی دور می‌زنند تا بتوانند تجربیات گذشته را به خاطر بسپارند.[1][4]

حافظه کوتاه‌مدت همان تاریخچه مکالمه در لحظه است، اما حافظه بلندمدت معمولاً از طریق پایگاه‌های داده برداری (Vector Databases) پیاده‌سازی می‌شود. این پایگاه‌ها به عامل اجازه می‌دهند تا میلیون‌ها سند را ذخیره کرده و در کسری از ثانیه، مرتبط‌ترین اطلاعات را بازیابی کند، درست مانند انسانی که برای یادآوری یک خاطره به ذهن خود رجوع می‌کند.[3]

ستون سوم و شاید جذاب‌ترین بخش یک عامل هوشمند، توانایی استفاده از ابزارها (Tool Use) است. یک مدل زبانی به تنهایی نمی‌تواند ایمیل بفرستد، کد پایتون را اجرا کند یا در پایگاه داده شرکت جستجو کند. توسعه‌دهندگان با تعریف رابط‌های برنامه‌نویسی (API) برای عامل، به آن دست و پا می‌دهند تا بتواند در دنیای دیجیتال تغییر ایجاد کند.[1]

وقتی عامل تشخیص می‌دهد که برای پاسخ به یک سوال نیاز به اطلاعات لحظه‌ای دارد، به جای حدس زدن، یک تابع جستجوی وب را فراخوانی می‌کند، نتایج را می‌خواند و سپس پاسخ نهایی را تدوین می‌کند. این قابلیت باعث می‌شود عامل‌ها از محدودیت داده‌های آموزشی خود فراتر بروند و به اطلاعات به‌روز دسترسی داشته باشند.[3]

با وجود این قابلیت‌های شگفت‌انگیز، عامل‌های هوش مصنوعی هنوز با چالش‌های بنیادینی روبرو هستند. یکی از بزرگترین مشکلات، پدیده «آبشار خطا» (Error Cascading) است. در یک فرآیند چندمرحله‌ای، اگر عامل در مرحله اول یک نتیجه‌گیری اشتباه انجام دهد، این خطا به مراحل بعدی منتقل شده و در نهایت منجر به شکست کل عملیات می‌شود.[2]

تحلیل‌های تیم تحریریه فکتلن نشان می‌دهد که در وظایفی که نیازمند بیش از ۵ تا ۷ مرحله تصمیم‌گیری متوالی هستند، دقت عامل‌های فعلی به شدت افت می‌کند. بدون مکانیزم‌های نظارت انسانی (Human-in-the-loop)، عامل‌ها ممکن است در حلقه‌های بی‌نهایت گرفتار شوند و یک عمل اشتباه را بارها و بارها تکرار کنند.[4]

ارزیابی عملکرد عامل‌ها نیز بسیار دشوارتر از مدل‌های زبانی استاندارد است. در حالی که کیفیت یک متن تولید شده را می‌توان با معیارهای مشخصی سنجید، موفقیت یک عامل به این بستگی دارد که آیا توانسته در یک محیط پویا و متغیر، به هدف نهایی دست یابد یا خیر.[2]

مسیر توسعه هوش مصنوعی از سیستم‌های منفعل به سمت عامل‌های خودمختار، نمایانگر یک تغییر پارادایم در نحوه تعامل ما با کامپیوترهاست. در آینده نزدیک، به جای اینکه به کامپیوتر بگوییم چگونه یک کار را انجام دهد، تنها هدف نهایی را مشخص می‌کنیم و عامل هوشمند مسیر رسیدن به آن را طراحی و اجرا خواهد کرد.[3][4]