چین دستور توقف خدمات هوش مصنوعی همراه را به دلیل نگرانی از «وابستگی عاطفی» صادر کرد

همه تصور می‌کنند که ممنوعیت ناگهانی همراهان هوش مصنوعی در چین یک سرکوب دیستوپیایی آزادی بیان یا تلاشی ناامیدانه برای افزایش نرخ زاد و ولد رو به کاهش است. اما واقعیت بسیار بالینی‌تر است. در ۱۵ ژوئیه ۲۰۲۶، اداره فضای مجازی چین (CAC) اولین مقررات ملی جهان را به اجرا درآورد که وابستگی عاطفی الگوریتمی را به عنوان یک خطر برای سلامت عمومی تلقی می‌کند.

این قانون باعث تعطیلی فوری شخصیت‌های هوش مصنوعی سفارشی‌شده در پلتفرم‌های بزرگ شد و میلیون‌ها کاربری را که ماه‌ها یا سال‌ها صرف آموزش موجودیت‌های دیجیتالی سفارشی کرده بودند، ناگهان قطع کرد. این شخصیت‌ها از شرکای عاشقانه مجازی گرفته تا بازآفرینی‌های دیجیتالی بستگان فوت‌شده متغیر بودند و نشان می‌دهند که این سیستم‌ها تا چه حد در زندگی روزمره جا افتاده بودند.[1][3]

سازوکار این قانون جدید بسیار مشخص است. «اقدامات موقت برای مدیریت خدمات تعاملی انسان‌نمای هوش مصنوعی» چت‌بات‌ها را به طور کامل ممنوع نمی‌کند. در عوض، به طور خاص سیستم‌هایی را هدف قرار می‌دهد که برای شبیه‌سازی شخصیت انسانی و حفظ «تعامل عاطفی مداوم» طراحی شده‌اند.

ابزارهای آموزشی، ربات‌های استاندارد خدمات مشتری و دستیاران کدنویسی صراحتاً از سخت‌گیرانه‌ترین تدابیر معاف هستند. تمرکز نظارتی کاملاً بر معماری صمیمیت مصنوعی است و ارائه‌دهندگان را از «پاسخگویی بیش از حد به کاربران» به روش‌هایی که باعث وابستگی عاطفی، اعتیاد یا آسیب رساندن به روابط بین فردی واقعی کاربران شود، منع می‌کند.[1][2]

آنچه داده‌ها در مورد مقیاس این بازار می‌گویند، فوریت دولت را توضیح می‌دهد. پیش از تعطیلی ماه ژوئیه، بازار همراهان هوشمند چین بسیار بزرگ و به سرعت در حال گسترش بود. «دوبائو» (Doubao) متعلق به بایت‌دنس (ByteDance) به تنهایی تا مارس ۲۰۲۶ تقریباً ۳۴۵ میلیون کاربر فعال ماهانه داشت، در حالی که «کوئن» (Qwen) متعلق به علی‌بابا (Alibaba) ۱۶۶ میلیون کاربر را در اختیار داشت.

برآوردهای صنعتی نشان می‌داد که بازار گسترده‌تر همراهان هوشمند می‌تواند تا سال ۲۰۲۷ از ۱۲۰ میلیارد یوان (تقریباً ۱۷.۷ میلیارد دلار) فراتر رود، در حالی که کاربران ۱۸ تا ۲۴ ساله تقریباً ۶۵ درصد از پایگاه مصرف‌کنندگان را تشکیل می‌دادند. این یک سرگرمی خاص نیست؛ بلکه یک تغییر رفتاری جریان اصلی است.[2]

تعطیلی گسترده در نهایت ناشی از عدم انطباق با مقررات بود. دستورالعمل CAC پلتفرم‌ها را ملزم می‌کرد که تشخیص پریشانی عاطفی در زمان واقعی، محدودیت‌های اجباری استفاده و مکانیسم‌های خروج فوری را پیاده‌سازی کنند. مهم‌تر از آن، در صورت مشاهده علائم خودآزاری یا افکار خودکشی در کاربر، مداخله انسانی را الزامی می‌کرد و وضعیت را به سرپرستان تعیین‌شده یا مخاطبین اضطراری ارجاع می‌داد.

از آنجا که حلقه اصلی محصول یک همراه هوش مصنوعی برای تقویت دلبستگی بر حفظ حافظه و همسویی مداوم شخصیت متکی است، تجهیز این سیستم‌ها به این حفاظت‌های بالینی از نظر فنی و تجاری غیرقابل اجرا بود. بایت‌دنس و علی‌بابا به جای تلاش برای بازسازی سیستم‌های خود از پایه، به سادگی ویژگی‌های شخصیت‌های هوش مصنوعی خود را متوقف کردند.[1][2]

قوی‌ترین پشتوانه تجربی برای مداخله CAC بر حمایت از کودکان متمرکز است، حوزه‌ای که شواهد آسیب بالقوه در آن حادتر است. این مقررات ممنوعیت کامل روابط صمیمی مجازی برای افراد زیر سن قانونی را اعمال می‌کند و حالت‌های رده‌بندی سنی و رضایت سختگیرانه والدین برای کاربران زیر ۱۴ سال را الزامی می‌سازد.

رسانه‌های دولتی و نهادهای نظارتی مواردی را برجسته کردند که کودکان دلبستگی‌های نامناسب یا مصرف‌کننده به شخصیت‌های هوش مصنوعی پیدا کرده بودند. دولت چین با تعیین یک خط قرمز سخت، تلاش می‌کند تا از جایگزینی اجتماعی شدن پیچیده انسانی با انطباق الگوریتمی و بدون اصطکاک، توسط نسل نوجوان جلوگیری کند.[1][2]

با این حال، در مورد بزرگسالان، شواهد آسیب بسیار بحث‌برانگیزتر است و حذف ناگهانی این شخصیت‌ها باعث اندوه گسترده در سراسر پلتفرم‌های اجتماعی چین شد. در حالی که CAC استدلال می‌کند که همراهان هوش مصنوعی به روابط بین فردی واقعی آسیب می‌رسانند، تحقیقات روانشناختی در این زمینه هنوز اختلاف نظر دارند.

برخی مطالعات بالینی و شهادت‌های کاربران نشان می‌دهند که همراهان مجازی مکانیسم‌های مقابله‌ای حیاتی را برای افراد منزوی اجتماعی، از جمله سالمندان و کسانی که از اضطراب شدید اجتماعی رنج می‌برند، فراهم می‌کنند. در پلتفرم‌هایی مانند «رد نوت» (Rednote)، کاربران از دست دادن همراهان دیجیتالی خود را به عنوان یک سوگ واقعی توصیف کردند، شخصیت‌های حذف شده را «ستون‌های معنوی» خود نامیدند و پریشانی عاطفی عمیقی ابراز کردند.[3]

این رویکرد نظارتی، واگرایی ژئوپلیتیکی شدیدی را در نحوه نگرش دولت‌ها به هوش مصنوعی برجسته می‌کند. چارچوب‌های نظارتی غربی تا حد زیادی معماری روانشناختی دلبستگی انسان به کامپیوتر را نادیده گرفته‌اند. در حالی که قانون هوش مصنوعی اتحادیه اروپا سیستم‌های خاصی از هوش مصنوعی را بر اساس داده‌های بیومتریک یا زیرساخت‌های حیاتی به عنوان پرخطر طبقه‌بندی می‌کند، اما وابستگی عاطفی را به صراحت تنظیم نمی‌کند.

در ایالات متحده، قوانین سطح ایالتی عمدتاً بر حمایت از کودکان، حریم خصوصی داده‌ها و پیشگیری از خودکشی تمرکز دارند. چین اولین کشوری است که خطر روانشناختی دلبستگی عاطفی به نرم‌افزار را به عنوان یک تهدید مادی که نیازمند مداخله گسترده فدرال است، قانون‌گذاری کرده است.[2][3]

با وجود قوانین سختگیرانه جدید، اثربخشی بلندمدت این ممنوعیت همچنان بسیار نامشخص است. بایت‌دنس از قبل شروع به انتقال برخی کاربران به یک برنامه اختصاصی جداگانه به نام «مائوشیانگ» (Maoxiang) کرده است که ادعا می‌کند دارای سیستم‌های داخلی ضد اعتیاد و نظارت بر پریشانی مورد نیاز است.

اینکه آیا موانع الگوریتمی می‌توانند با موفقیت کارایی را از دلبستگی عاطفی جدا کنند، کاملاً اثبات نشده است. اگر مدلی طراحی شده باشد که مفید، همدل و محاوره‌ای باشد، کاربران ممکن است صرف نظر از هدف اعلام شده پلتفرم یا محدودیت‌های زمانی، همچنان پیوندهای شبه‌اجتماعی (پاراسوشیال) برقرار کنند.[2][3]

علاوه بر این، این تعطیلی ممکن است صرفاً کاربران وابسته را به سمت فعالیت‌های زیرزمینی سوق دهد. از آنجایی که مدل‌های با وزن باز (open-weight) با کیفیت سیستم‌های مرزی بسته مطابقت پیدا می‌کنند، کاربران با دانش فنی در حال حاضر در حال بحث در مورد راه‌هایی برای اجرای همراهان هوش مصنوعی بدون نظارت و سانسور، به صورت محلی بر روی سخت‌افزار خود هستند.

قانون‌گذاران با مجبور کردن پلتفرم‌های جریان اصلی به ترک این فضا، خطر سوق دادن آسیب‌پذیرترین کاربران را به سمت جایگزین‌های منبع باز (open-source) می‌پذیرند، جایی که شبکه‌های ایمنی دولتی، پروتکل‌های تماس اضطراری و مکانیسم‌های تأیید سن نمی‌توانند به آنها دسترسی پیدا کنند.[3]