مکانیسم «مسئله تراموا» در خودروهای خودران: مقایسه رویکردهای فایده‌گرایانه، وظیفه‌گرایانه و نظارتی

خودروهای خودران ناگزیر با تصادفات اجتناب‌ناپذیر مواجه خواهند شد. در چنین شرایطی، نرم‌افزار باید تصمیم بگیرد که چه کسی آسیب ببیند. در حالی که فلاسفه در مورد اینکه آیا خودروها باید کل تلفات را به حداقل برسانند یا از قوانین سخت‌گیرانه علیه انحراف پیروی کنند بحث می‌کنند، نهادهای نظارتی بی‌سروصدا در حال حل این مناقشه هستند: به خودروها اجازه داده نخواهد شد که ارزش جان یک انسان را در برابر دیگری بسنجند.[8]

برای خریدار احتمالی یا عابر پیاده‌ای که از خیابان عبور می‌کند، این معضل انتزاعی به یک واقعیت بسیار ملموس تبدیل می‌شود. اگر کودکی ناگهان وارد جاده شود و تنها راه جایگزین، انحراف به سمت یک مانع بتنی باشد، خودرو جان چه کسی را در اولویت قرار می‌دهد؟ پاسخ کاملاً به چارچوب اخلاقی‌ای بستگی دارد که در الگوریتم‌های تصادف خودرو کدگذاری شده است.[2]

مشهورترین چارچوب برای این سناریو، «مسئله تراموا» است؛ یک آزمایش فکری که می‌پرسد آیا بهتر است فعالانه مسیر یک تراموای خارج از کنترل را منحرف کنیم تا یک نفر کشته شود، یا هیچ کاری نکنیم و اجازه دهیم پنج نفر کشته شوند. در زمینه رانندگی خودران، این دیگر یک فرضیه کلاسی نیست؛ بلکه خطی از کد است که مانور نهایی ماشین را دیکته می‌کند.[6]

یکی از رویکردهای غالب، فایده‌گرایی (Utilitarianism) است. یک الگوریتم فایده‌گرا مسیری را محاسبه می‌کند که منجر به کمترین آسیب کلی شود. اگر خودرو احتمال بالایی برای کشتن سه عابر پیاده در مقابل قطعیت کشتن تنها سرنشین خود با انحراف به سمت دیوار را محاسبه کند، مدل فایده‌گرا سرنشین را فدای جمعیت می‌کند.[2][5]

این رویکرد برای مدل‌های بهداشت عمومی که به دنبال به حداقل رساندن کلی مرگ و میر و بیماری در جامعه هستند، جذاب است. با این حال، یک واقعیت دلهره‌آور برای مصرف‌کننده ایجاد می‌کند: یک خودروی فایده‌گرا صراحتاً برنامه‌ریزی شده است که تحت شرایط ریاضی مناسب، مالک خود را بکشد؛ ویژگی‌ای که اگر خریداران به طور گسترده از آن مطلع شوند، می‌تواند پذیرش بازار را به شدت مختل کند.[5]

در مقابل، رویکرد وظیفه‌گرایانه (Deontological) متکی بر اخلاق سخت‌گیرانه و مبتنی بر قانون است. وظیفه‌گرایی استدلال می‌کند که برخی اقدامات ذاتاً اشتباه هستند، صرف نظر از نتیجه. یک الگوریتم وظیفه‌گرا ممکن است با یک قانون سخت برنامه‌ریزی شود: «هرگز عمداً به سمت انسان فرمان نده»، که اولویت را به عملِ آسیب نرساندن می‌دهد تا محاسبات ریاضی جان‌های نجات‌یافته.[2][7]

تحت یک چارچوب وظیفه‌گرایانه، اگر خودرو نتواند به موقع ترمز کند تا از برخورد با گروهی از عابران پیاده جلوگیری کند، صرفاً با حداکثر توان در مسیر فعلی خود ترمز خواهد کرد. فعالانه انتخاب نمی‌کند که به سمت یک تماشاچی تنها در پیاده‌رو منحرف شود، زیرا انجام عملی که باعث آسیب شود ممنوع است، حتی اگر عدم اقدام منجر به از دست دادن جان‌های بیشتری شود.[7]

در حالی که دانشگاهیان در مورد این دو قطب بحث می‌کنند، نهادهای نظارتی وارد عمل شده‌اند تا قوانین راه را اجباری کنند. جامع‌ترین چارچوب تا به امروز از سوی کمیسیون اخلاق آلمان در مورد رانندگی خودکار ارائه شده است، که اصول خاص و الزام‌آور قانونی را برای الگوریتم‌های تصادف وضع کرده که تولیدکنندگان باید از آنها پیروی کنند.[1]

این کمیسیون حکم داد که خسارت مالی همیشه باید بر آسیب شخصی اولویت داشته باشد و جان حیوانات باید برای نجات جان انسان فدا شود. مهم‌تر از آن، هرگونه تبعیض بر اساس ویژگی‌های شخصی را به شدت ممنوع کرد. یک الگوریتم نمی‌تواند برای نجات یک کودک، فرد مسن را انتخاب کند یا جان مردان را در برابر زنان بسنجد.[1]

این موضع نظارتی عملاً محاسبات پیچیده فایده‌گرایانه‌ای را که «ارزش‌های» متفاوتی به انسان‌های مختلف اختصاص می‌دهند، غیرقانونی می‌کند. این امر نوعی وظیفه‌گرایی برابری‌طلبانه را الزامی می‌کند: هر زندگی انسانی از نظر ریاضی در چشم سیستم درک (Perception Stack) خودرو برابر است و خودرو نمی‌تواند با تصمیم‌گیری در مورد اینکه جان چه کسی ارزش بیشتری دارد، نقش خدا را بازی کند.[1][8]

با این حال، مهندسان خودرو و محققان هوش مصنوعی استدلال می‌کنند که کل فرض مسئله تراموا در هنگام اعمال بر رباتیک دنیای واقعی، دارای نقص است. خودروها دانش کاملی از آینده ندارند. آنها در دنیایی از ریسک احتمالی عمل می‌کنند، نه نتایج قطعی که در آن نتایج یک انحراف با قطعیت مطلق مشخص باشد.[3]

حسگرهای خودرو – لیدار، رادار و دوربین‌ها – «یک پزشک و یک مجرم» یا حتی «یک نفر در مقابل پنج نفر» را با وضوح کامل نمی‌بینند. آنها جعبه‌های مرزی (Bounding Boxes) را با درجات مختلفی از اطمینان مشاهده می‌کنند. برنامه‌ریزی یک خودرو برای قضاوت‌های اخلاقی بر اساس داده‌های حسگر ناقص، خطرات فاجعه‌بار جدیدی را به همراه دارد، مانند انحراف برای جلوگیری از یک سایه و برخورد با یک فرد واقعی.[4]

توسعه خودروهای خودران مدرن، به جای حل مسئله تراموا، بر مدل‌های مدیریت ریسک تمرکز دارد. این سیستم‌ها به طور مداوم یک «میدان سفر ایمن» را محاسبه می‌کنند و سرعت و موقعیت خطوط را به صورت پویا تنظیم می‌کنند تا اطمینان حاصل شود که خودرو هرگز وارد وضعیتی نمی‌شود که سناریوی مسئله تراموا از نظر ریاضی امکان‌پذیر باشد.[5]

با حفظ یک حائل (بافر) پیوسته از زمان و فضا، هدف الگوریتم‌ها کاهش انرژی جنبشی هرگونه برخورد اجتناب‌ناپذیر به سطوح قابل بقا است. هدف نهایی این نیست که فرد مناسبی را برای برخورد انتخاب کنند، بلکه این است که آنقدر زود ترمز کنند که بحث اخلاقی بی‌ربط شود و انتخاب‌های مرگبار را به تصادفات جزئی تبدیل کنند.[3][7]

برای مصرف‌کننده، این تغییر از اولویت‌بندی فلسفی به مدیریت ریسک احتمالی بسیار حیاتی است. این بدان معناست که خودروی آینده شما یک فیلسوف اخلاقی نخواهد بود که ارزش عابران پیاده را قضاوت کند؛ بلکه ماشینی فوق‌العاده محتاط خواهد بود که طراحی شده تا به محض به خطر افتادن حاشیه‌های ایمنی، سرعت را کاهش دهد و از طریق فیزیک، نه اخلاق، از سرنشین و عموم مردم محافظت کند.[8]