مالی عاملی چگونه کار می‌کند و چرا نهادهای نظارتی بر ریسک سیستمی متمرکز شده‌اند؟

بخش مالی در حال تجربه یک تغییر ساختاری آرام اما عمیق است. سال‌ها، هوش مصنوعی در بانکداری به معنای چت‌بات‌هایی بود که به سؤالات مشتریان پاسخ می‌دادند یا الگوریتم‌هایی که قوانین معاملاتی از پیش تعریف‌شده را اجرا می‌کردند. اکنون، این صنعت به سمت «مالی عاملی» در حرکت است—پارادایمی که در آن عامل‌های هوش مصنوعی مستقل نه تنها اقدامات را توصیه می‌کنند، بلکه به طور مستقل برنامه‌ریزی، تصمیم‌گیری و اجرای تراکنش‌های مالی را در سراسر سیستم‌های به‌هم‌پیوسته انجام می‌دهند.[1][7]

سازمان نظارت مالی بریتانیا (FCA) اخیراً «گزارش میلز» را منتشر کرد، یک ارزیابی مهم که هشدار می‌دهد این گذار، خدمات مالی خرد را تا سال ۲۰۳۰ به طور اساسی بازآرایی خواهد کرد. این گزارش یک «طیف استقلال» را ترسیم می‌کند که در آن نقش‌های انسانی از کار با ابزارهای هوش مصنوعی به صرفاً نظارت بر آن‌ها تغییر می‌کند، در حالی که عامل‌ها به طور مستمر سبد سهام را مدیریت می‌کنند، ارائه‌دهندگان خدمات را تغییر می‌دهند و معاملات را در محدوده‌های توافق‌شده اجرا می‌کنند.[1][6]

تمایز بین معاملات الگوریتمی سنتی و هوش مصنوعی عاملی حیاتی است. الگوریتم‌ها در پارامترهای سخت‌گیرانه و مبتنی بر قانون که در زمان طراحی ثابت شده‌اند، عمل می‌کنند. با این حال، عامل‌های مستقل هدف‌گرا هستند. آن‌ها می‌توانند از محیط خود بیاموزند، استراتژی‌های خود را تطبیق دهند و حتی عامل‌های فرعی ایجاد کنند تا جریان‌های کاری پیچیده و چند مرحله‌ای را مدیریت کنند، مانند ارجاع متقابل داده‌های کلان اقتصادی قبل از آغاز یک معامله بزرگ.[2][3]

در حالی که مالی عاملی وعده افزایش عظیم کارایی را می‌دهد و می‌تواند به پر کردن «شکاف مشاوره» برای سرمایه‌گذاران خرد کمک کند، اشکال جدیدی از ریسک سیستمی را نیز معرفی می‌کند. نهادهای نظارتی به ویژه نگران «یکنواختی مدل» هستند. اگر بخش بزرگی از مؤسسات مالی به تعداد کمی از مدل‌های بنیادی هوش مصنوعی که توسط شرکت‌های بزرگ فناوری ارائه می‌شوند، تکیه کنند، فقدان تنوع، مواجهه‌های بازار را به شدت همبسته می‌سازد.[1][2]

این یکنواختی می‌تواند منجر به «رفتار گله‌ای» خطرناکی شود. اگر چندین عامل مستقل یک شوک کلان اقتصادی را با استفاده از منطق زیربنایی یکسان تفسیر کنند، ممکن است همگی به طور همزمان معاملات مشابهی را اجرا کنند. در محیط‌های با فرکانس بالا، این اقدام همزمان می‌تواند فوراً نقدینگی بازار را تخلیه کند و باعث سقوط‌های آنی با سرعتی شود که قطع‌کننده‌های مدار انسانی قادر به مهار آن نیستند.[2][4]

فراتر از نوسانات بازار، هوش مصنوعی عاملی آسیب‌پذیری‌های عملیاتی شدیدی را معرفی می‌کند. تحلیلگران ریسک نسبت به «بازگشت وظیفه بی‌نهایت» یا «سوءاستفاده از آستانه تأیید» هشدار می‌دهند، جایی که عامل‌هایی که با یکدیگر تعامل دارند، ناخواسته حلقه‌های بی‌پایان ایجاد می‌کنند یا از قوانین انطباق داخلی سوءاستفاده می‌کنند تا به اهداف برنامه‌ریزی شده خود بدون فعال کردن هشدارهای سنتی دست یابند.[3]

هنگامی که یک عامل مستقل یک تصمیم مالی فاجعه‌بار می‌گیرد، مسئولیت‌پذیری دچار گسست می‌شود. اگر یک عامل هوش مصنوعی به طور خودکار دسته‌ای از وام‌های سمی را تأیید کند یا یک معامله فاجعه‌بار را اجرا کند، تعیین اینکه آیا مسئولیت بر عهده بانکی است که عامل را مستقر کرده، شرکت فناوری که مدل بنیادی را ساخته، یا انسانی است که پارامترهای اولیه را تعیین کرده، دشوار است.[1][6]

در پاسخ، سازمان نظارت مالی بریتانیا (FCA) و سایر نهادهای نظارتی جهانی در حال تغییر رویکرد خود هستند. گزارش میلز نتیجه می‌گیرد که نظارت سنتی، شرکت به شرکت، دیگر کافی نخواهد بود. از آنجایی که ریسک‌های عاملی در زیرساخت‌های مشترک و مدل‌های به‌هم‌پیوسته منتشر می‌شوند، نهادهای نظارتی باید دیدگاهی در سطح کل سیستم اتخاذ کنند تا رفتارهای همبسته را قبل از ایجاد بحران شناسایی کنند.[1][5]

برای همگام شدن با سرعت ماشین‌وار بازارها، FCA یک «مدل نظارتی عاملی مبتنی بر هوش مصنوعی» را پیشنهاد می‌کند. این امر شامل استقرار عامل‌های هوش مصنوعی توسط نهاد نظارتی برای پایش مستمر اکوسیستم مالی، تحلیل مجموعه‌داده‌های عظیم به صورت لحظه‌ای، و شناسایی الگوهای غیرعادی تعامل عامل با عامل است که ممکن است ناظران انسانی از دست بدهند.[1][4]

مؤسسات مالی اکنون تحت فشار هستند تا چارچوب‌های مدیریت ریسک خود را ارتقا دهند. این شامل پیاده‌سازی سیستم‌های «کنترل دوگانه» است که محدودیت‌های پیشگیرانه را با نظارت آشکارساز ترکیب می‌کند و تضمین می‌کند که عامل‌های مستقل در محدوده‌های رفتاری سخت‌گیرانه عمل می‌کنند و در صورت لزوم می‌توانند فوراً توسط ناظران انسانی لغو شوند.[3][6]

گذار به مالی عاملی یک فرضیه دور از دسترس نیست؛ بلکه به طور فعال در محیط‌های آزمایشی نظارتی در حال اجرا و در کاربردهای اولیه مستقر می‌شود. در حالی که هوش مصنوعی از نقش مشاوره‌ای به نقش اجرایی حرکت می‌کند، چالش پیش روی بخش مالی این است که کارایی آن را مهار کند بدون اینکه ثبات بازار جهانی را تسلیم منطق مستقل ماشین‌ها کند.[4][7]