فارغ‌التحصیلان فلسفه در بازار کار از علوم کامپیوتر پیشی گرفتند؛ شرکت‌های هوش مصنوعی متخصصان اخلاق استخدام می‌کنند

برای دهه‌ها، قابل اعتمادترین توصیه شغلی به دانشجویان علوم انسانی یک دستورالعمل صریح سه کلمه‌ای بود: «برنامه‌نویسی یاد بگیر.» اما در حالی که هوش مصنوعی مولد شروع به خودکارسازی عمل مهندسی نرم‌افزار کرده است، بازار کار سیگنالی کاملاً متفاوت ارسال می‌کند. بر اساس داده‌های سال ۲۰۲۴ که توسط بانک فدرال رزرو نیویورک منتشر شده است، نرخ بیکاری فارغ‌التحصیلان علوم کامپیوتر در ایالات متحده به ۷ درصد افزایش یافته است. در همین حال، فارغ‌التحصیلان فلسفه—که مدت‌ها سوژه شوخی‌های مربوط به رشته‌های بدون شغل بودند—با نرخ بیکاری قابل توجه پایین‌تر ۵.۱ درصد مواجه هستند، که نشان‌دهنده تقاضای ناگهانی و شدید برای مهارت‌های شناختی خاص آن‌ها است.[2]

این وارونگی آماری یک اتفاق موقتی نیست؛ بلکه نتیجه مستقیم یک تغییر ساختاری در بخش فناوری است. آزمایشگاه‌های پیشرو که پیشرفته‌ترین مدل‌های هوش مصنوعی جهان را می‌سازند، متوجه شده‌اند که بزرگترین موانع آن‌ها دیگر صرفاً محاسباتی یا ریاضی نیستند. با افزایش تصاعدی قابلیت‌های مدل‌ها، چالش‌های جلوگیری از تولید دستورالعمل‌های مضر، تقویت سوگیری‌های اجتماعی یا توهم‌زایی حقایق نادرست، به مسائل هنجاری پیچیده‌ای تبدیل شده‌اند. برای حل این مشکلات، شرکت‌های پیشرو مانند گوگل دیپ‌مایند (Google DeepMind)، اوپن‌ای‌آی (OpenAI) و انتروپیک (Anthropic) به شدت در حال استخدام متخصصان اخلاق، منطق‌دانان و فلاسفه اخلاق برای هدایت تیم‌های مهندسی خود هستند.[1]

تقاضا برای این مهارت‌ها به قدری شدید است که به طور فعال در حال تغییر شکل دانشگاه‌ها است. لوسیانو فلوریدی، استاد برجسته فلسفه در دانشگاه ییل، اخیراً خروج کارکنان از گروه‌های فلسفه دانشگاهی به بخش فناوری را به عنوان یک «خونریزی» توصیف کرد. دانشجویانی که در اخلاق و منطق تخصص دارند، اغلب قبل از اتمام دوره کارشناسی، پیشنهادات شغلی پرسودی از توسعه‌دهندگان هوش مصنوعی دریافت می‌کنند. در PhilJobs، اصلی‌ترین تابلوی کاریابی دانشگاهی برای این رشته، نسبت آگهی‌هایی که به هوش مصنوعی یا ایمنی فناوری اشاره می‌کنند، از تنها ۱ درصد در سال ۲۰۱۳ به ۱۶ درصد خیره‌کننده در سال ۲۰۲۵ افزایش یافته است.[4]

فلاسفه دقیقاً در داخل غول‌های فناوری که توسط مزارع سرور پشتیبانی می‌شوند، چه می‌کنند؟ آن‌ها صرفاً مقالات سفید انتزاعی نمی‌نویسند یا به عنوان چهره‌های انطباق شرکتی خدمت نمی‌کنند. در عوض، آن‌ها به عنوان مهندسان متخصص عمل می‌کنند و ارزش‌های مبهم انسانی را به اهداف دقیق و قابل خواندن توسط ماشین ترجمه می‌کنند. کار روزانه آن‌ها شامل ساخت معیارهای ارزیابی دقیق، طراحی «طبقه‌بندی‌های امتناع» است که دقیقاً مشخص می‌کند یک هوش مصنوعی چه زمانی و چگونه باید درخواست کاربر را رد کند، و تدوین پروتکل‌های اختلاف. آن‌ها درخواست‌های خصمانه را تجزیه و تحلیل می‌کنند تا رفتار سطحی را از نیت مخرب زیربنایی تشخیص دهند و اطمینان حاصل کنند که مدل‌ها حتی زمانی که کاربران سعی در دور زدن موانع ایمنی دارند، به طور ایمن رفتار می‌کنند.[5]

برجسته‌ترین نمونه این ادغام بین رشته‌ای، توسعه «هوش مصنوعی مشروط» (Constitutional AI) است. این چارچوب که توسط انتروپیک پیشگام شده است، تلاش می‌کند تا رفتار مدل را نه از طریق تعدیل دستی بی‌پایان توسط انسان، بلکه با دادن مجموعه‌ای از اصول راهنمای بنیادی به هوش مصنوعی برای ارزیابی خروجی‌های خودش، مدیریت کند. آماندا اسکل، که دارای دکترای فلسفه از دانشگاه نیویورک است، به عنوان فیلسوف مقیم انتروپیک خدمت می‌کند و در تدوین قانون اساسی جامع ۸۰ صفحه‌ای این شرکت نقش اساسی داشت. این سند به عنوان پایه و اساس اخلاقی برای کلود (Claude)، هوش مصنوعی مکالمه‌ای شاخص این شرکت، عمل می‌کند.[4][6]

اسکل، که اغلب در داخل شرکت به عنوان «نجوای کلود» شناخته می‌شود، به شدت از چارچوب‌های تاریخی حقوق بشر و اخلاق فضیلت برای ساخت قوانینی استفاده کرد که هوش مصنوعی می‌تواند در طول مرحله آموزش خود به آن‌ها ارجاع دهد. به جای صرفاً کدگذاری سخت یک قانون سفت و سخت مانند «توهین‌آمیز نباش»، یک رویکرد مشروط از مدل می‌خواهد که هنگام مواجهه با درخواست‌های مبهم، ملاحظات متضاد—مانان شفافیت، ایمنی و مفید بودن—را بسنجد. این پایه فلسفی با دستاوردهای فنی ملموسی مرتبط شده است، از جمله کاهش قابل توجه در تملق‌گویی مدل، نقصی که در آن هوش مصنوعی کورکورانه با فرض اشتباه کاربر موافقت می‌کند تا صرفاً سازگار باشد.[3][6]

سایر آزمایشگاه‌های بزرگ نیز به سرعت در حال پیروی از این روند هستند. تیم ایمنی و همسوسازی هوش عمومی مصنوعی گوگل دیپ‌مایند فعالانه در حال استخدام محققانی با تخصص در مدل‌سازی جامعه‌فنی بین رشته‌ای است. هدف آن‌ها ایجاد محافظ‌های قوی در برابر خطرات وجودی و اطمینان از این است که مدل‌ها می‌توانند عدم قطعیت اخلاقی—موقعیت‌هایی که در آن قوانین اخلاقی با هم در تضاد هستند یا از نظر فرهنگی نامشخص باقی می‌مانند—را مدیریت کنند. با به کارگیری چارچوب‌های چند صد ساله، از پرسشگری سقراطی گرفته تا وظیفه‌گرایی کانتی، این تیم‌های همسوسازی تلاش می‌کنند تا فروتنی فکری را به هوش مصنوعی بیاموزند و اطمینان حاصل کنند که می‌داند چه زمانی باید به نادانی اعتراف کند، نه اینکه پاسخی ساختگی ارائه دهد.[2][3]

ادغام فلسفه در توسعه هوش مصنوعی همچنین بحث جذابی را در مورد دو چارچوب اخلاقی غالب برانگیخته است: وظیفه‌گرایی (deontology) و نتیجه‌گرایی (consequentialism). هوش مصنوعی مشروط به شدت بر وظیفه‌گرایی تکیه دارد و محدودیت‌های سخت‌گیرانه و مبتنی بر قانون را تعیین می‌کند که مدل نباید آن‌ها را نقض کند، صرف نظر از نیت کاربر یا نتیجه احتمالی. برعکس، زمینه‌هایی مانند رانندگی خودکار و هوش مصنوعی نظامی اغلب بر چارچوب‌های نتیجه‌گرایانه تکیه می‌کنند، جایی که سیستم آموزش داده می‌شود تا بهترین نتیجه ممکن را محاسبه و بهینه کند، حتی اگر برای جلوگیری از یک فاجعه بزرگ نیاز به نقض یک قانون کوچک باشد.[3]

دانشگاه‌ها به سرعت در حال بازسازی برنامه‌های درسی خود برای آماده‌سازی دانشجویان برای این واقعیت جدید بین رشته‌ای هستند، و اذعان دارند که مسیرهای استاندارد علوم کامپیوتر دیگر تنها راه ورود به نقش‌های نخبه فناوری نیستند. مؤسساتی مانند دانشگاه کارنگی ملون، دانشگاه ایلینوی اربانا-شمپین و دانشگاه نورث‌ایسترن برنامه‌های مشترک تحصیلی «علوم کامپیوتر و فلسفه» یا «هوش مصنوعی و فلسفه» را راه‌اندازی کرده‌اند. این مسیرهای نوآورانه با منطق رسمی و استدلال اخلاقی شروع می‌شوند و سپس به یادگیری ماشینی عملی و تجزیه و تحلیل داده‌ها پیش می‌روند و فارغ‌التحصیلانی را تربیت می‌کنند که می‌توانند شکاف بین کد و وجدان را پر کنند.[4]

با این حال، ظهور فیلسوف شرکتی به طور جهانی مورد استقبال قرار نگرفته است و سوالات عمیقی را در مورد حکمرانی مطرح می‌کند. منتقدان هشدار می‌دهند که تکیه بر شرکت‌های خصوصی برای تدوین «قوانین اساسی» برای سیستم‌هایی که میلیون‌ها نفر را تحت تأثیر قرار می‌دهند، اجماع عمومی را دور می‌زند. گیلاد ابیری، یک محقق حقوقی، این پدیده را به عنوان «کسری جامعه سیاسی» شناسایی کرده است. او استدلال می‌کند که اگرچه قوانین اساسی هوش مصنوعی شرکتی شفافیت را افزایش می‌دهند و چارچوبی برای پاسخگویی فراهم می‌کنند، اما اساساً فاقد مشروعیت دموکراتیکی هستند که ناشی از قانون‌گذاری عمومی، نظارت نظارتی و بحث آزاد اجتماعی است.

علاوه بر این، برخی از طرفداران شفافیت استدلال می‌کنند که محدودیت‌های اخلاقی یک مدل لزوماً شرکت سازنده آن را محدود نمی‌کند. ممکن است یک هوش مصنوعی طوری برنامه‌ریزی شده باشد که به عنوان یک معترض باوجدان عمل کند و درخواست مضری را رد کند، اما خود شرکت همچنان تحت فرمان سودآوری حداکثری فعالیت می‌کند. منتقدان استدلال می‌کنند که عادی‌سازی حکمرانی خصوصی هوش مصنوعی، حمایت از ساختارهای دموکراتیک الزام‌آور را دشوارتر می‌کند، زیرا شرکت‌های فناوری می‌توانند به سادگی به فلاسفه مقیم و قوانین اساسی منتشر شده خود به عنوان دلیلی بر غیرضروری بودن مقررات خارجی اشاره کنند.

با وجود این بحث‌های جاری در مورد حکمرانی، روند بازار کار یک پیام واضح و امیدبخش ارسال می‌کند: قضاوت انسانی غیرقابل جایگزینی است. توانایی استدلال واضح، ارزیابی مبادلات مبهم و تشخیص استدلال‌های ضعیف در حال تبدیل شدن به یک مزیت برتر در نیروی کار مدرن است. در حالی که هوش مصنوعی به تجاری‌سازی وظایف فنی روتین و برنامه‌نویسی اولیه ادامه می‌دهد، صنعت فناوری در حال کشف مجدد یک حقیقت باستانی است. مهندسی تعیین می‌کند که یک ماشین قادر به انجام چه کاری است، اما فلسفه است که تعیین می‌کند واقعاً چه کاری باید انجام دهد.[2][3]