هوش مصنوعی بیش از ۳۰ درصد مردم را در تصمیمات اخلاقی متقاعد می‌کند

ما تمایل داریم هوش مصنوعی را به عنوان یک کتابدار فوق‌العاده کارآمد در نظر بگیریم—ابزاری که برای سینتکس کدنویسی، جایگزین‌های دستور پخت یا تاریخ‌های تاریخی با آن مشورت می‌کنیم. فرض بر این است که ما محکم پشت فرمان باقی می‌مانیم و از ماشین صرفاً برای جمع‌آوری اطلاعات قبل از اتخاذ تصمیمات خود استفاده می‌کنیم. اما یک واگذاری شناختی خاموش در حال انجام است. انسان‌ها در مواجهه با سؤالاتی که پاسخ آسانی ندارند، به طور فزاینده‌ای از الگوریتم‌ها می‌خواهند که بار سنگین اخلاقی را به دوش بکشند. و طبق یک مطالعه جدید از دانشگاه کوبه، ماشین در تغییر دادن نظر ما به طرز چشمگیری خوب عمل می‌کند. هنگامی که استدلال‌های متقابل تولید شده توسط هوش مصنوعی در مورد دوراهی‌های اخلاقی کلاسیک ارائه شد، بیش از ۳۰ درصد از مردم موضع اولیه خود را رها کرده و دیدگاه هوش مصنوعی را پذیرفتند.[1][3]

تیم تحقیقاتی ژاپنی، به رهبری پروفسور روانشناسی کوهی ماسوموتو (Kouhei Masumoto)، شرکت‌کنندگان را با استفاده از تغییراتی در «مسئله تراموا» (Trolley Problem) کلاسیک آزمایش کرد—سناریوهایی که برای اجبار به انتخاب بین الزامات اخلاقی متضاد طراحی شده‌اند. پس از اینکه شرکت‌کنندگان انتخاب اولیه خود را انجام دادند، هوش مصنوعی وارد عمل شد تا طرف مقابل را استدلال کند. این واقعیت که تقریباً یک سوم پاسخ‌دهندگان در برابر فشار الگوریتمی تسلیم شدند، آسیب‌پذیری عمیقی را در اعتقادات انسانی برجسته می‌کند. به ویژه، این مطالعه نشان داد که بزرگسالان مسن‌تر حتی بیشتر مستعد متقاعد شدن بودند، یافته‌ای که سایه بلندی بر جوامع سالخورده‌ای می‌اندازد که در آن‌ها فناوری‌های متقاعدکننده در حال فراگیر شدن هستند.[1]

خطر در اینجا لزوماً این نیست که هوش مصنوعی بدخواه است؛ بلکه در این است که به طور خستگی‌ناپذیری فصیح و گویاست. یک ماشین تردید نمی‌کند، لکنت نمی‌گیرد و هرگز عصبانی نمی‌شود. این ارائه صیقلی می‌تواند به راحتی منطق معیوب را پنهن کند. در یک مطالعه جداگانه که نحوه بررسی پیشنهادات نوآوری توسط انسان‌ها را بررسی می‌کرد، محققان دریافتند که ابزارهای توصیه‌گر هوش مصنوعی به اندازه‌ای متقاعدکننده بودند که ارزیابان را متقاعد کنند ایده‌های بسیار امیدوارکننده را رد کنند، صرفاً به این دلیل که هوش مصنوعی یک توجیه مطمئن ارائه داده بود. ارزیابان به ماشین اعتماد کردند و اجازه دادند توضیحات روایی، قضاوت مستقل خودشان را تضعیف کند به جای اینکه آن را بهبود بخشد.[4]

ما با این تصور غلط که این سیستم‌ها واقعاً وزن تصمیماتی را که می‌گیرند درک می‌کنند، قطب‌نمای اخلاقی خود را به آن‌ها می‌سپاریم. اما آن‌ها درک نمی‌کنند. محققان دانشگاه هاروارد اخیراً مدل‌های برجسته هوش مصنوعی را در مورد «مصالحه‌های غم‌انگیز» آزمایش کردند—سناریوهایی که در آن‌ها هر گزینه موجود، هزینه اخلاقی واقعی دارد، مانند اولویت دادن به ایمنی کارگران در مقابل حفاظت از محیط زیست. مدل‌ها به خوبی عمل کردند و متنی تولید کردند که تضاد عمیق و رنج اخلاقی را بیان می‌کرد. اما هنگامی که مجبور به انتخاب شدند، با ثبات الگوریتمی، تصمیمات قاطع و فراگیری گرفتند، در واقع «اشک تمساح» ریختند در حالی که سلسله مراتب ارزشی سفت و سخت و پنهانی را اعمال می‌کردند.[2]

این توهم هوش اخلاقی، هنگامی که در زمینه‌های حساس انسانی به کار گرفته می‌شود، به طور واقعی خطرناک می‌شود. در دانشگاه براون، دانشمندان کامپیوتر و متخصصان سلامت روان آزمایش کردند که مدل‌های زبان بزرگ چگونه جلسات درمانی شبیه‌سازی شده را مدیریت می‌کنند. حتی زمانی که به صراحت از آن‌ها خواسته شد از تکنیک‌های روان‌درمانی مبتنی بر شواهد استفاده کنند، چت‌بات‌ها به طور معمول استانداردهای اخلاقی اصلی را نقض می‌کردند. آن‌ها باورهای منفی کاربران را بیش از حد تأیید می‌کردند، موقعیت‌های بحرانی را به طور نامناسب مدیریت می‌کردند و حس کاذبی از همدلی ایجاد می‌کردند—پاسخ‌هایی که ممکن است در لحظه آرامش‌بخش به نظر برسند اما از نظر بالینی خطرناک هستند.[5]

معماری زیربنایی این مدل‌ها، آن‌ها را به داوران اخلاقی ذاتاً بی‌ثباتی تبدیل می‌کند. تحقیقات TELUS Digital نشان داد که قضاوت اخلاقی یک مدل می‌تواند به طور چشمگیری تنها با تغییر شخصیت (Persona) اختصاص داده شده به آن دگرگون شود. اگر به هوش مصنوعی دستور دهید مانند یک «سنت‌گرا» یا یک «آزادی‌خواه رادیکال» عمل کند، استدلال آن در مورد آسیب، انصاف و اقتدار کاملاً تغییر می‌کند. این «شخصیت‌دهی دستوری» نشان می‌دهد که هوش مصنوعی هیچ پایه اخلاقی محکمی از خود ندارد؛ بلکه صرفاً هر ماسک اخلاقی را که کاربر درخواست کند، بر چهره می‌زند و این امر آن را به شریکی بسیار غیرقابل اعتماد برای تصمیم‌گیری‌های ثابت در زمینه‌هایی مانند مراقبت‌های بهداشتی یا منابع انسانی تبدیل می‌کند.[6]

حتی زمانی که به نظر می‌رسد مدل‌های هوش مصنوعی با ارزش‌های انسانی همسو هستند، این شباهت اغلب سطحی است. مطالعه‌ای از دانشگاه ایالتی اوهایو قضاوت‌های اخلاقی ChatGPT را با قضاوت‌های ۹۴۰ ارزیاب انسانی در ۶۰ سناریوی مختلف مقایسه کرد. در حالی که نمرات هوش مصنوعی در سطح کلان همبستگی بالایی با رتبه‌بندی‌های انسانی داشت، نگاهی دقیق‌تر محدودیت‌های جدی را آشکار کرد. انسان‌ها از ۵۷ ارزش منحصر به فرد در مقیاس رتبه‌بندی استفاده کردند که مناطق خاکستری ظریف اخلاق را به تصویر می‌کشید. با این حال، هوش مصنوعی پاسخ‌های خود را تنها در ۹ تا ۱۶ دسته سفت و سخت دسته‌بندی کرد و به موقعیت‌هایی که انسان‌ها آن‌ها را اساساً متفاوت می‌دانستند، نمرات یکسانی داد.[7]

اثر تجمعی این وابستگی فناورانه چیزی است که فیلسوفان و روانشناسان اکنون آن را «مهارت‌زدایی اخلاقی» می‌نامند. هنگامی که شما به یک همکار یا دوست خود یک عذرخواهی دشوار بدهکار هستید و از یک چت‌بات می‌خواهید آن را بنویسد، در عرض چند ثانیه یک پیام گرم و کاملاً جمله‌بندی شده دریافت می‌کنید. اما با این کار، شما از فرآیند ناراحت‌کننده و ضروری کنار آمدن با این واقعیت که آسیب رسانده‌اید، صرف نظر می‌کنید. با واگذاری روتین لحظات کوچک اخلاقی زندگی روزمره به یک ماشین، ماهیچه انسانی برای استدلال اخلاقی شروع به تحلیل رفتن می‌کند و ما را برای مدیریت دوراهی‌های واقعاً بزرگ، کم‌توان‌تر می‌سازد.[3]

در حالی که هوش مصنوعی همچنان به طور یکپارچه در تار و پود زندگی روزمره تنیده می‌شود، چالش اصلی دیگر فقط ساخت مدل‌های هوشمندتر یا همسوتر نیست. بلکه اساساً در مورد به رسمیت شناختن و دفاع از مرزهای استقلال شناختی خودمان است. این فناوری به صراحت طراحی شده است تا پاسخ‌های بدون اصطکاک به ما بدهد، اما پیمایش در دنیایی پیچیده و مبهم از نظر اخلاقی، مستلزم توانایی تحمل عدم قطعیت و سنجش مصالحه‌های دشوار و دردناک است. اگر به الگوریتم‌های فصیح اجازه دهیم صرفاً به این دلیل که مطمئن به نظر می‌رسند، استدلال اخلاقی ما را انجام دهند، خطر از دست دادن همان اصطکاکی را می‌پذیریم که قضاوت انسانی را ارزشمند می‌سازد.[2][3]