پاپ لئوی چهاردهم فرمان پاپی «مانیفیکا هومانیتاس» را صادر کرد و خواستار «خلع سلاح» هوش مصنوعی شد

پاپ لئوی چهاردهم، در یک رساله ۴۲ هزار کلمه‌ای جامع که الهیات باستان را با کدهای پیشرفته پیوند می‌دهد، اولین فرمان پاپی خود، «مانیفیکا هومانیتاس» (کرامت باشکوه انسانی)، را صادر کرده است. این سند که رسماً توسط سریر مقدس منتشر شد، یک مبنای اخلاقی سختگیرانه برای آینده هوش مصنوعی تعیین می‌کند. پاپ به جای رد فناوری به عنوان ذاتاً شر، استدلال می‌کند که هوش مصنوعی «خنثی نیست» و خواستار «خلع سلاح» لفظی و فلسفی سیستم‌های الگوریتمی است که تهدید می‌کنند انسان‌ها را به نقاط داده‌ای تقلیل دهند.

انتشار این فرمان پاپی با رویه واتیکان متفاوت بود. پاپ لئوی چهاردهم به جای واگذاری ارائه به کاردینال‌های کوریال، شخصاً این سند را از سالن سینود معرفی کرد. در یک نمایش بصری چشمگیر از تلاش کلیسا برای تعامل با سیلیکون‌ولی، پاپ توسط کارشناسان برجسته هوش مصنوعی، از جمله کریس اولاه، یکی از بنیانگذاران شرکت آنتروپیک (Anthropic)، همراهی شد.

حضور مدیران اجرایی فناوری بر تمایل واتیکان تأکید کرد تا صدای خود را نه تنها به عنوان یک راهنمای معنوی، بلکه به عنوان یک مرجع اخلاقی پیشرو در حکمرانی سکولار فناوری‌های نوظهور مطرح کند.[1]

در قلب «مانیفیکا هومانیتاس»، انتقادی عمیق از آنچه پاپ آن را «پارادایم تکنوکراتیک» می‌نامد، نهفته است. این فرمان پاپی اضطراب‌های آشنای پیرامون هوش مصنوعی—مانند از دست دادن شغل، حریم خصوصی داده‌ها، و سوگیری ایدئولوژیک—را تأیید می‌کند، اما خطری عمیق‌تر و وجودی‌تر را شناسایی می‌کند. این سند هشدار می‌دهد که بشریت به طور فزاینده‌ای خود را به عنوان پروژه‌ای «قابل بهینه‌سازی» می‌بیند و منطق سرد ماشین‌ها را برای اندازه‌گیری ارزش زندگی انسان به کار می‌گیرد.

پاپ استدلال می‌کند که این انگیزه برای بهینه‌سازی، ماهیت انسان را به طور اساسی اشتباه درک می‌کند. در چارچوب الهیاتی این فرمان پاپی، محدودیت‌های انسانی—مانند بیماری، پیری، رنج و آسیب‌پذیری—نقص‌های مهندسی نیستند که منتظر حل شدن توسط یک به‌روزرسانی نرم‌افزاری باشند.

بلکه، این‌ها همان فضاهایی هستند که انسان‌ها در آن‌ها خرد را کشف می‌کنند، همدلی را تجربه می‌کنند و با امر الهی مواجه می‌شوند. با تلاش برای استفاده از هوش مصنوعی برای فرار از این محدودیت‌ها، جامعه در معرض خطر ساختن یک «فرهنگ قدرت» است که کسانی را که نمی‌توانند بهینه‌سازی شوند، کنار می‌گذارد.

فراخوان برای «خلع سلاح» هوش مصنوعی در دو سطح عمل می‌کند. از نظر فلسفی، این امر مستلزم سلب اقتدار بیش از حد فناوری بر ارزش ذاتی انسان است. اما در عمل، این یک مداخله مستقیم در نظامی‌سازی فزاینده هوش مصنوعی است. این فرمان پاپی به شدت چشم‌انداز سیستم‌های هوش مصنوعی را که تصمیمات سریع و خودکار در مورد مرگ و زندگی می‌گیرند، در حالی که کاملاً از مسئولیت اخلاقی انسانی جدا هستند، محکوم می‌کند.[2]

این هشدار نظامی در لحظه‌ای بسیار پرنوسان برای صنعت فناوری صادر می‌شود. انتشار واتیکان به طور استراتژیک با پرونده «آنتروپیک پی‌بی‌سی علیه وزارت جنگ ایالات متحده» همزمان است، یک دعوای حقوقی مهم که در آن شرکت تحقیقاتی هوش مصنوعی بر سر استقرار مدل‌های خود در زمینه‌های نظامی و نظارتی با دولت فدرال درگیر است. این فرمان پاپی یک پشتوانه فلسفی قوی برای کسانی فراهم می‌کند که در برابر ادغام هوش مصنوعی در سیستم‌های تسلیحاتی خودکار مرگبار مقاومت می‌کنند.[1][2]

در واقع، الهی‌دانان اخلاق کاتولیک پیش از این از چارچوب پاپ در دادگاه فدرال استفاده کرده‌اند. ائتلافی از متخصصان اخلاق، از جمله محققانی از دانشگاه کاتولیک آمریکا، یک لایحه «دوست دادگاه» (amicus curiae brief) در پرونده آنتروپیک ثبت کردند. آن‌ها با استناد مستقیم به «مانیفیکا هومانیتاس» و نظریه سنتی جنگ عادلانه، استدلال کردند که عاملیت اخلاقی انسان باید در هر تصمیم مرگبار محوری باقی بماند و عملاً خواستار یک مرز قانونی سخت در برابر جنگ الگوریتمی شدند.[2]

فراتر از میدان نبرد، این فرمان پاپی به استخراج اقتصادی ذاتی در توسعه مدرن هوش مصنوعی می‌پردازد. پاپ لئوی چهاردهم اشاره می‌کند که هوش مصنوعی اساساً «استخراجی» است و متکی بر برداشت گسترده داده‌ها، بیان و تجربه انسانی است—که کلیسا آن‌ها را آفرینش‌های الهی می‌داند، نه مواد خام برای سود شرکت‌ها. این سند هشدار می‌دهد که تمرکز منابع تکنولوژیکی و اقتصادی در دست چند شرکت بزرگ فناوری، ناگزیر شکاف بین افراد «مشمول» و «محروم» را گسترش خواهد داد.

برای مقابله با این امر، پاپ یک «تمدن عشق» را پیشنهاد می‌کند که بر پایه عدالت، گفتگو و مسئولیت مشترک بنا شده است. این امر مستلزم تضمین این است که توسعه هوش مصنوعی شامل همان جوامعی باشد که ادعا می‌کند به آن‌ها خدمت می‌کند، نه اینکه توسط تعداد انگشت‌شماری از مهندسان و مدیران اجرایی دیکته شود. این فرمان پاپی اصرار دارد که اصول آموزه اجتماعی کاتولیک—خیر عمومی، همبستگی و اصل تفویض اختیار (subsidiarity)—باید ابزارهایی باشند که برای تنظیم و تفسیر این تحول مداوم استفاده می‌شوند.

زمان‌بندی تاریخی این سند کاملاً عمدی است. پاپ لئوی چهاردهم «مانیفیکا هومانیتاس» را دقیقاً ۱۳۵ سال پس از آنکه هم‌نام او، پاپ لئوی سیزدهم، «رِروم نوواروم» (Rerum Novarum) را صادر کرد، امضا نمود. آن فرمان پاپی در سال ۱۸۹۱ به استثمار کارگران در طول انقلاب صنعتی پاسخ داد و پایه و اساس آموزه اجتماعی مدرن کاتولیک را بنا نهاد. پاپ کنونی با پیوند دادن این دو سند، نشان می‌دهد که انقلاب هوش مصنوعی نیازمند یک تغییر لرزه‌ای مشابه در نحوه حفاظت جامعه از کرامت و کار انسانی است.

استقبال از «مانیفیکا هومانیتاس» در حوزه‌های مذهبی و سکولار سریع بوده است. تحلیلگران فناوری در مؤسسه بروکینگز (Brookings Institution) خاطرنشان می‌کنند که اگرچه بعید است یک فرمان پاپی مستقیماً منجر به قانون‌گذاری فدرال هوش مصنوعی شود، اما در حال حاضر به عنوان یک متن بنیادی برای گفتگوها در مورد اخلاق هوش مصنوعی در فضای فناوری عمل می‌کند. این سند واژگانی را برای کارکنان فناوری و سیاست‌گذارانی فراهم می‌کند که نسبت به استقرار سریع هوش مصنوعی احساس ناراحتی می‌کنند اما فاقد یک چارچوب اخلاقی منسجم برای بیان نگرانی‌های خود هستند.

با این حال، اهداف آرمان‌گرایانه این سند در دنیای واقعی کد و سرمایه با موانع بزرگی روبرو هستند. ساختارهای انگیزشی صنعت فناوری در حال حاضر کاملاً حول محور بهینه‌سازی و استخراجی بنا شده‌اند که پاپ آن‌ها را محکوم می‌کند. در حالی که مدیران اجرایی ممکن است در ارائه واتیکان شرکت کنند، تغییر مدل‌های تجاری اساسی شرکت‌های تریلیون دلاری برای همسویی با یک «تمدن عشق» همچنان یک چالش عظیم باقی می‌ماند.

در نهایت، «مانیفیکا هومانیتاس» نه تنها توسعه‌دهندگان، بلکه کاربران روزمره فناوری را وادار به یک بازنگری می‌کند. این سند از جامعه می‌خواهد تصمیم بگیرد که آیا از هوش مصنوعی برای ساختن یک برج بابل جدید—یادبودی برای غرور انسانی و سلطه تکنوکراتیک—استفاده خواهد کرد، یا اینکه این ابزارهای قدرتمند جدید را تابع خدمت به شکوفایی انسان خواهد کرد. این فرمان پاپی روشن می‌سازد که این انتخاب را نمی‌توان به الگوریتم‌ها واگذار کرد؛ بلکه نیازمند تشخیص فعال و اخلاقی یک بشریت باشکوه است.