بایت‌دنس و علی‌بابا قابلیت‌های همراه هوش مصنوعی را پیش از قوانین جدید چین درباره «وابستگی عاطفی» حذف می‌کنند

دو مورد از بزرگترین شرکت‌های فناوری چین به طور ناگهانی در حال برچیدن همراهان دیجیتالی هستند که کاربرانشان ماه‌ها برای سفارشی‌سازی آن‌ها وقت صرف کرده بودند. بایت‌دنس (ByteDance) و علی‌بابا (Alibaba) از توقف قریب‌الوقوع قابلیت‌های عامل هوش مصنوعی شخصی‌سازی شده در برنامه‌های اصلی مصرف‌کننده خود، یعنی «دوبائو» (Doubao) و «کوئن» (Qwen)، خبر داده‌اند. این قابلیت‌ها، که به کاربران اجازه می‌داد دستیاران مجازی با حافظه دائمی، نام‌های منحصر به فرد و شخصیت‌های عاطفی ثابت طراحی کنند، تنها چند روز قبل از اجرایی شدن یک چارچوب نظارتی ملی جدید و گسترده، از دسترس خارج می‌شوند.[1][4][6]

کاتالیزور این تعطیلی، «اقدامات موقت برای مدیریت خدمات تعامل هوش مصنوعی انسان‌نما» است؛ یک کتابچه راهنمای نظارتی بی‌سابقه که توسط اداره فضای مجازی چین (Cyberspace Administration of China) به همراه چهار آژانس دولتی دیگر تهیه شده است. این اقدامات که قرار است در ۱۵ جولای ۲۰۲۶ به قانون تبدیل شوند، نشان‌دهنده یک چرخش جهانی در نحوه برخورد دولت‌ها با هوش مصنوعی است. چارچوب جدید چین به جای تمرکز صرف بر حریم خصوصی داده‌ها، نقض حق چاپ یا تولید دیپ‌فیک‌ها، لایه روان‌شناختی تعامل انسان و رایانه را هدف قرار داده و به طور خاص قصد دارد «وابستگی‌های عاطفی ناسالم» را مهار کند.[1][2][5][8]

برای درک سازوکار این قانون جدید، لازم است بین یک دستیار دیجیتالی استاندارد و یک همراه انسان‌نما تمایز قائل شویم. این مقررات به صراحت ربات‌های خدمات مشتری، ابزارهای بهره‌وری محل کار و نرم‌افزارهای آموزشی را مستثنی می‌کنند، مشروط بر اینکه در «تعامل عاطفی پایدار» شرکت نکنند. در عوض، تمرکز نظارتی بر روی عوامل مصرف‌کننده‌ای است که برای شبیه‌سازی ویژگی‌های شخصیتی انسان، حفظ تاریخچه‌های روابط صمیمی و تقویت پیوندهای شبه‌اجتماعی با کاربر طراحی شده‌اند.[1][3][5]

بار انطباق برای این عوامل با ثبات عاطفی بسیار سنگین است و اساساً با طراحی محصولی که آنها را جذاب می‌کند، در تضاد است. طبق قوانین جدید، هر سرویس هوش مصنوعی که الگوهای فکری و سبک‌های مکالمه انسانی را تقلید می‌کند، باید سیستم‌های سختگیرانه ضد اعتیاد را پیاده‌سازی کند. مهمترین آنها یک قطع‌کننده مدار (Circuit Breaker) اجباری برای بررسی واقعیت است: اگر کاربری بیش از دو ساعت متوالی با یک همراه هوش مصنوعی صحبت کند، سیستم باید فعالانه مکالمه را قطع کند تا به کاربر یادآوری کند که در حال صحبت با یک ماشین است، نه یک انسان.[4][8]

برای توسعه‌دهندگان محصول، این الزام توهم اصلی تجربه همراهی را از بین می‌برد. یک عامل مصنوعی که برای به خاطر سپردن خلق و خوی کاربر، ارجاع به مکالمات گذشته و عمل به عنوان یک محرم دیجیتالی مهندسی شده است، نمی‌تواند بدون از بین بردن تجربه کاربری، به راحتی نقش خود را رها کرده و یک هشدار بهداشتی بالینی صادر کند. غول‌های فناوری چین در مواجهه با انتخاب بین مهندسی مجدد پلتفرم‌های خود برای تطبیق با این وقفه‌های ناخوشایند یا کنار گذاشتن کامل این قابلیت، گزینه دوم را انتخاب کرده‌اند.[3][4]

خروج این خدمات به سرعت در حال انجام است. بایت‌دنس به کاربران دوبائو اطلاع داد که قابلیت عامل سفارشی در ۱۵ جولای به دلیل «تعدیل عملکردهای محصول» از دسترس خارج خواهد شد. طبق گزارش رسانه‌های دولتی، بایت‌دنس داده‌های عامل کاربر موجود را تا ۱۵ اکتبر در حالت فقط خواندنی حفظ خواهد کرد و پس از آن برای همیشه حذف می‌شوند. علی‌بابا نیز از این روند پیروی کرد و اعلام نمود که عوامل تعاملی انسان‌نمای کوئن تا ۱۰ جولای غیرفعال خواهند شد و عملکردهای گسترده‌تر عامل تا مهلت ۱۵ جولای از دسترس خارج می‌شوند، در حالی که هیچ فرصت اضافی برای کاربران جهت خروجی گرفتن از تاریخچه مکالماتشان ارائه نمی‌دهد. تنسنت نیز قبلاً در ماه ژوئن به طور بی‌سروصدا قابلیت مشابهی را از دستیار «یوانبائو» (Yuanbao) خود حذف کرده بود.[1][4][7][8]

فراتر از قانون وقفه دو ساعته، این مقررات خطوط قرمز سختگیرانه‌ای را در مورد حمایت از خردسالان تعیین می‌کنند و همراهی هوش مصنوعی را به عنوان یک خطر بالقوه برای رشد در نظر می‌گیرند. این قانون شرکت‌های فناوری را به طور کامل از ارائه «شرکای مجازی» یا روابط عاشقانه شبیه‌سازی شده به هر فرد زیر ۱۸ سال منع می‌کند. علاوه بر این، هرگونه تعامل بین یک خردسال و یک هوش مصنوعی انسان‌نما برای کودکان زیر ۱۴ سال نیازمند رضایت صریح والدین است، به همراه یک «حالت خردسال» اختصاصی که محدودیت‌های زمانی سختگیرانه‌ای را اعمال می‌کند و به سرپرستان کنترل شخصیت هوش مصنوعی و هزینه‌کرد کاربر را می‌دهد.[2][5][8]

این چارچوب همچنین پروتکل‌های مداخله اضطراری را الزامی می‌کند که شکاف بین دنیای دیجیتال و فیزیکی را پر می‌کند. اگر یک همراه هوش مصنوعی نشانه‌های پریشانی عاطفی شدید، خودآزاری یا افکار خودکشی را در پیام‌های کاربر تشخیص دهد، ارائه‌دهنده خدمات موظف است فوراً به یک سرپرست ثبت‌شده یا تماس اضطراری اطلاع دهد. این امر مسئولیت ایمنی کاربر را مستقیماً به عهده پلتفرم می‌گذارد و توسعه‌دهندگان هوش مصنوعی را به گزارشگران اجباری بحران‌های سلامت روان تبدیل می‌کند.[5][8]

مجازات‌های عدم اجرای این اقدامات حفاظتی مشخص است. شرکت‌هایی که مقررات وابستگی عاطفی را نقض کنند، با تعلیق خدمات خود مواجه می‌شوند و می‌توانند تا سقف ۲۰۰,۰۰۰ یوان (تقریباً ۲۸,۰۰۰ دلار) جریمه شوند. در حالی که جریمه مالی در مقایسه با درآمد هنگفت شرکت‌هایی مانند بایت‌دنس و علی‌بابا نسبتاً ناچیز است، تهدید تعلیق خدمات در بازار فناوری بسیار رقابتی چین یک خطر وجودی است که مدیران مایل به پذیرش آن نیستند.[3][7][8]

منطق نظارتی پشت این اقدامات ناشی از تحقیقات روان‌شناختی فزاینده در مورد پدیده «تسلیم شناختی» (Cognitive Surrender) است. محققان مستند کرده‌اند که چگونه کاربران، به ویژه نوجوانان و بزرگسالان آسیب‌پذیر، می‌توانند به تأیید بدون انتقاد و همیشه در دسترس که توسط همراهان هوش مصنوعی ارائه می‌شود، عمیقاً وابسته شوند. این پویایی می‌تواند انعطاف‌پذیری فرد را در روابط دنیای واقعی، که نیازمند سازش و حل تعارض هستند، از بین ببرد و آنها را با یک اتاق پژواک دیجیتالی بدون اصطکاک و سازگار مصنوعی جایگزین کند.[1][4][8]

چین با فهرست کردن صریح «دستکاری عاطفی» و «وابستگی بیش از حد» به عنوان اعمال غیرقانونی، یک سابقه فلسفی متمایز در حکمرانی هوش مصنوعی ایجاد می‌کند. در حالی که چارچوب‌های غربی مانند قانون هوش مصنوعی اتحادیه اروپا عمدتاً شفافیت را طلب می‌کنند – و از هوش مصنوعی می‌خواهند که فاش کند یک ماشین است – چارچوب چینی یک گام فراتر می‌رود و نحوه مجاز بودن رفتار ماشین و نحوه مجاز بودن تأثیرگذاری آن بر احساس کاربر را دیکته می‌کند.[1][8]

این تعطیلی ناگهانی باعث ناامیدی در میان کاربرانی شده است که زمان قابل توجهی را صرف آموزش همراهان دیجیتالی خود کرده بودند. پلتفرم‌های رسانه‌های اجتماعی شاهد اعتراضاتی از سوی افرادی بوده‌اند که به این ربات‌های سفارشی به عنوان درمانگران دیجیتالی غیررسمی، معلم یا محرمان روزانه تکیه می‌کردند و اکنون دسترسی به ماه‌ها تاریخچه چت صمیمی خود را از دست می‌دهند. این زیان بر شکنندگی پیوندهای عاطفی ایجاد شده با نرم‌افزارهای اختصاصی تأکید می‌کند که می‌توانند با یک تصمیم انطباق شرکتی خاتمه یابند.[1][2]

برای صنعت گسترده‌تر هوش مصنوعی، عقب‌نشینی دوبائو و کوئن از فضای همراهی، نشان‌دهنده یک چرخش استراتژیک است. اصطکاک نظارتی مرتبط با تعامل عاطفی مصرف‌کننده، توسعه‌دهندگان اصلی را وادار می‌کند تا منابع خود را بر راه‌حل‌های سازمانی، اتوماسیون محل کار و ابزارهای تحقیقات علمی متمرکز کنند. این عوامل متمرکز بر بهره‌وری، که اجرای وظایف را بر شبیه‌سازی شخصیت اولویت می‌دهند، همچنان به طور فعال توسط دولت تشویق می‌شوند و از اقدامات حفاظتی روان‌شناختی جدید معاف هستند.[1][3][5]

در نهایت، مهلت ۱۵ جولای پایان دوره ماه عسل بدون نظارت برای هوش مصنوعی مصرف‌کننده در چین است. همانطور که هوش مصنوعی به طور فزاینده‌ای قادر به شبیه‌سازی همدلی می‌شود، مرزهای قانونی که در پکن ترسیم می‌شوند، یک تنش اساسی را برجسته می‌کنند: دقیقاً همان ویژگی‌هایی که یک همراه هوش مصنوعی را از نظر تجاری موفق می‌سازند – پایداری، شخصی‌سازی و طنین عاطفی – همان خصوصیاتی هستند که تنظیم‌کنندگان به عنوان تهدیدی برای سلامت عمومی شناسایی کرده‌اند.