سازوکار حمایت از مصرف‌کننده دیجیتال: چگونه قانون «حق دسترسی به انسان» اتحادیه اروپا فروش آنلاین خدمات مالی را متحول می‌کند

در طول دهه گذشته، وعده مالی دیجیتال، دسترسی بدون اصطکاک بوده است. مصرف‌کنندگان می‌توانستند در عرض چند ثانیه، برای کارت اعتباری درخواست دهند، وام شخصی بگیرند یا بیمه مسافرتی بخرند، آن هم از طریق تلفن‌های هوشمند خود و بدون نیاز به مراجعه به شعبه سنتی بانک. این راحتی با یک تغییر بزرگ به سمت تضمین اعتبار الگوریتمی تقویت شد، جایی که سیستم‌های خودکار ریسک را ارزیابی کرده و تصمیمات فوری می‌گیرند.[4]

اما این کارایی بیش از حد، یک آسیب‌پذیری جدید و منحصر به فرد مدرن ایجاد کرد: جعبه سیاه الگوریتمی. هنگامی که یک مصرف‌کننده از دریافت یک محصول مالی محروم می‌شد یا نرخ بهره بالایی به او پیشنهاد می‌شد، این رد شدن اغلب نهایی، مبهم و غیرقابل اعتراض بود. چت‌بات‌های خدمات مشتری منطق دایره‌ای ارائه می‌دادند و پیدا کردن یک انسان که بتواند تصمیم ماشین را توضیح دهد – چه رسد به اینکه آن را لغو کند – به تلاشی بیهوده تبدیل می‌شد.[1]

آن دوران اقتدار خودکار و بی‌حد و حصر اکنون در اروپا به پایان می‌رسد. دستورالعمل به‌روز شده اتحادیه اروپا در مورد قراردادهای خدمات مالی منعقد شده از راه دور رسماً اجرایی شده و قوانین تعامل بین مؤسسات مالی دیجیتال و مصرف‌کنندگان خرد را به طور اساسی بازنویسی می‌کند. این قانون همه چیز از بانکداری و اعتبار گرفته تا بیمه و مستمری‌های شخصی که به صورت آنلاین فروخته می‌شوند را پوشش می‌دهد.

تاج این اصلاحات نظارتی، «حق دسترسی به انسان» است که به تازگی تثبیت شده است. بر اساس این دستورالعمل، هرگاه مصرف‌کننده‌ای در مورد یک محصول مالی تحت یک تصمیم کاملاً خودکار قرار گیرد، حق مطلق دارد که درخواست دخالت انسانی کند. آنها می‌توانند توضیح شخصی‌سازی شده‌ای از تصمیم را مطالبه کنند و مهم‌تر از همه، به نتیجه‌گیری الگوریتم اعتراض نمایند.[1]

سازوکار این دستورالعمل بسیار خاص است تا از ایجاد حفره‌های قانونی جلوگیری شود. بانک‌ها و شرکت‌های فین‌تک نمی‌توانند گزینه بررسی انسانی را در هزارتوی صفحات پرسش‌های متداول پنهان کنند. رابط کاربری باید دارای یک مکانیزم برجسته و به راحتی قابل دسترسی باشد – اغلب یک دکمه مستقیم یا لینک واضح – که به کاربر اجازه می‌دهد بلافاصله پس از دریافت تصمیم خودکار، آن را به یک نماینده انسانی ارجاع دهد.

علاوه بر این، بازبین انسانی نمی‌تواند صرفاً یک تأییدکننده کورکورانه برای هوش مصنوعی باشد. دستورالعمل‌های سازمان بانکداری اروپا تصریح می‌کنند که پرسنل مسئول این بررسی‌ها باید آموزش‌های مناسب و مهم‌تر از آن، اختیار واقعی برای لغو سیستم الگوریتمی را داشته باشند، در صورتی که تشخیص دهند تصمیم خودکار دارای نقص، سوگیری یا فاقد زمینه لازم بوده است.

این امر یک نقص حیاتی در مدل‌های اولیه مشاوره رباتیک و وام‌دهی خودکار را برطرف می‌کند، جایی که موارد خاص – مانند مصرف‌کننده‌ای با جریان درآمدی غیرسنتی یا یک اختلاف اعتباری که اخیراً حل شده است – به طور خودکار رد می‌شدند زیرا با پارامترهای سخت‌گیرانه داده‌های آموزشی مطابقت نداشتند. یک بازبین انسانی می‌تواند ظرافت‌هایی را درک کند که ماشین در حال حاضر قادر به آن نیست.[4]

اجرای این قانون، تغییر عملیاتی گسترده‌ای را در سراسر بخش بانکداری اروپا تحمیل می‌کند. مؤسسات مالی بزرگ و فین‌تک‌های دیجیتال محور در حال بازنگری در عملیات پشتیبان خود، استخدام و آموزش تیم‌های بررسی تخصصی برای مدیریت حجم پیش‌بینی شده درخواست‌های تجدیدنظر هستند تا فرآیند درخواست دیجیتال متوقف نشود.[2]

در حالی که صنعت در ابتدا در برابر هزینه‌های احتمالی مقاومت کرد، بسیاری از بانک‌ها در حال کشف این موضوع هستند که این دستورالعمل در واقع باعث بهبود حفظ مشتری می‌شود. با هدایت تنها موارد حاشیه‌ای و مورد اعتراض به میزهای انسانی، مؤسسات سرعت تأییدیه‌های خودکار را برای اکثریت قریب به اتفاق کاربران حفظ می‌کنند، در حالی که رابطه با مشتریانی را که در غیر این صورت ممکن بود به طور ناعادلانه توسط یک ماشین بیگانه شوند، حفظ می‌کنند.[2][4]

فراتر از دستورالعمل انسانی، این دستورالعمل به شدت «الگوهای تاریک» (Dark Patterns) را هدف قرار می‌دهد – طراحی‌های رابط کاربری فریبنده‌ای که قصد دارند کاربران را وادار به تعهدات مالی ناخواسته کنند. این قانون صراحتاً اقداماتی مانند تیک‌های از پیش خورده برای بیمه‌های اضافی گران‌قیمت یا طرح‌های رنگی گیج‌کننده که کاربران را به سمت گزینه‌های اعتباری پرهزینه‌تر سوق می‌دهند، ممنوع می‌کند.

این قانون همچنین دوره سنتی ۱۴ روزه «مهلت انصراف» را مدرن می‌کند. مصرف‌کنندگان مدت‌هاست که حق داشته‌اند ظرف دو هفته از یک قرارداد مالی انصراف دهند، اما اعمال این حق به صورت آنلاین اغلب عمداً دشوار بود. قانون جدید یک «عملکرد انصراف» بسیار قابل مشاهده را در رابط کاربری ارائه‌دهنده اجباری می‌کند، که لغو یک قرارداد دیجیتال را به آسانی امضای آن می‌کند.[1]

ابهام اصلی در آینده در اجرای قانون و استاندارد کیفی بررسی انسانی نهفته است. حامیان مصرف‌کننده خاطرنشان می‌کنند که آزمون واقعی این دستورالعمل این خواهد بود که آیا نهادهای نظارتی ملی فعالانه مؤسساتی را که تیم‌های بررسی خود را با کمبود پرسنل اداره می‌کنند، جریمه خواهند کرد یا خیر؛ زیرا این امر می‌تواند منجر به تنگناهایی در رسیدگی به درخواست‌ها شود که عملاً دسترسی به موقع مصرف‌کننده به اعتبار را سلب می‌کند.

همچنین این سؤال مطرح است که این قانون چگونه با نسل بعدی هوش مصنوعی مولد تعامل خواهد داشت، که مؤسسات مالی به طور فزاینده‌ای برای خدمات مشتری از آن استفاده می‌کنند. دستورالعمل واضح است: یک چت‌بات هوش مصنوعی بسیار پیشرفته، الزام «حق دسترسی به انسان» را برآورده نمی‌کند. دخالت باید از سوی یک شخص حقیقی صورت گیرد.[4]

پیامدهای جهانی اقدام اتحادیه اروپا بسیار زیاد است و نمونه‌ای کلاسیک از «اثر بروکسل» را به راه می‌اندازد. از آنجا که بانک‌های چندملیتی و پلتفرم‌های فین‌تک جهانی ترجیح می‌دهند بر روی سیستم‌های پشتیبان استاندارد شده کار کنند، انتظار می‌رود بسیاری از آنها این ویژگی‌های «حضور انسان در چرخه» را در سطح جهانی اجرا کنند، به جای اینکه رابط‌های کاربری جداگانه و با حمایت کمتر برای بازارهای غیر اتحادیه اروپا حفظ نمایند.[2][4]

نهادهای نظارتی خارج از اروپا در حال حاضر در حال یادداشت‌برداری هستند. در ایالات متحده، دفتر حمایت مالی مصرف‌کننده (CFPB) به دقت چارچوب اتحادیه اروپا را زیر نظر داشته است، زیرا راهنمایی‌های خود را در مورد انصاف الگوریتمی و حقوق مصرف‌کننده دیجیتال توسعه می‌دهد، که نشان می‌دهد تقاضا برای پاسخگویی انسانی در امور مالی مبتنی بر هوش مصنوعی یک اولویت فراآتلانتیکی است.[3]

در نهایت، قانون «حق دسترسی به انسان» نشان‌دهنده یک توازن مجدد عمیق در قدرت در اقتصاد دیجیتال است. این قانون سرعت و کارایی هوش مصنوعی را در آغوش می‌گیرد، در حالی که یک تضمین اساسی را دوباره برقرار می‌کند: سیستم‌های مالی برای خدمت به مردم وجود دارند، و زمانی که خطرات بالا هستند، انسان‌ها باید کنترل را در دست داشته باشند.[4]