آزمایشگاه‌های هوش مصنوعی فیلسوفان را به صورت انبوه استخدام می‌کنند؛ بیکاری در بخش فناوری معکوس شد

طنز عبارت «برنامه‌نویسی یاد بگیر» بالاخره آشکار شد. برای دهه‌ها، توصیه مرسوم به دانشجویان دانشگاه ساده بود: برای تضمین شغلی با درآمد شش رقمی، در رشته علوم کامپیوتر تحصیل کنید و از علوم انسانی – به ویژه فلسفه – دوری کنید، مگر اینکه از بیکاری لذت ببرید. اما رونق هوش مصنوعی این منطق اقتصادی دیرینه را وارونه کرده است.[3]

بر اساس داده‌های اخیر بانک فدرال رزرو نیویورک، نرخ بیکاری برای فارغ‌التحصیلان اخیر علوم کامپیوتر به ۷.۰٪ افزایش یافته است. در همین حال، نرخ بیکاری برای فارغ‌التحصیلان فلسفه به ۵.۱٪ کاهش یافته است. این تغییر نشان‌دهنده یک وارونگی خیره‌کننده در بازار کار مدرن است که توسط همان فناوری‌ای که دانشمندان کامپیوتر ساختند، هدایت می‌شود.[3][6]

همانطور که مدل‌های هوش مصنوعی مولد به طور فزاینده‌ای قادر به نوشتن کد خود هستند، گلوگاه توسعه فناوری دیگر نحو (Syntax) یا مهندسی نرم‌افزار نیست. در عوض، سخت‌ترین مشکلاتی که شرکت‌هایی مانند OpenAI، Anthropic و Google DeepMind با آن روبرو هستند، مسائل قضاوت، ایمنی و رفتار است. برای حل آنها، سیلیکون ولی در حال استخدام انبوه فیلسوفان است.[1][4]

هنگامی که توسعه‌دهندگان یک مدل یادگیری ماشین را با استفاده از بازخورد انسانی بهینه می‌کنند، اساساً در حال تبدیل ارزش‌های انسانی به یک تابع هدف ریاضی هستند. اگر این اهداف بهینه‌سازی به درستی تعریف نشوند، سیستم‌های هوش مصنوعی برای دستیابی به اهداف خود از نقاط ضعف سوءاستفاده خواهند کرد – پدیده‌ای که به عنوان قانون گودهارت (Goodhart's Law) شناخته می‌شود.[1]

برای جلوگیری از این امر، آزمایشگاه‌های پیشرو هوش مصنوعی، فیلسوفان حرفه‌ای را مستقیماً در تیم‌های مهندسی خود جای داده‌اند. این «مهندسان اخلاق» و «محققان همسوسازی» وظیفه دارند مفاهیم انتزاعی را که رفتار مدل را هدایت می‌کنند، تعریف کنند. آنها به سؤالاتی پاسخ می‌دهند که هزاران سال است بشریت را درگیر کرده، اما اکنون با کاربردهای تجاری فوری و پرمخاطره روبرو هستند.[1][4]

به عنوان مثال، در شرکت Anthropic، فیلسوفان مقیمی مانند آماندا اسکل (Amanda Askell) در حال تدوین «قانون اساسی» برای مدل‌های هوش مصنوعی هستند. هوش مصنوعی مبتنی بر قانون اساسی (Constitutional AI) متکی بر مجموعه‌ای از قوانین و اصول صریح است – که اغلب از اعلامیه جهانی حقوق بشر سازمان ملل یا چارچوب‌های اخلاقی خاص گرفته شده‌اند – که نحوه پاسخگویی مدل به پرسش‌های حساس را دیکته می‌کنند.[1][4]

این فیلسوفان باید تصمیم بگیرند که یک عامل هوش مصنوعی چگونه باید با الزامات اخلاقی متضاد برخورد کند. اگر کاربری از یک چت‌بات برای کمک به یک کار خطرناک درخواست کند، آیا مدل باید با پاسخ دادن به درخواست، اولویت را به مفید بودن بدهد، یا با امتناع از کمک، اولویت را به بی‌ضرر بودن؟ حل این موارد حاشیه‌ای نیازمند استدلال استنتاجی دقیق و درک سنت‌های اخلاقی مانند وظیفه‌گرایی کانتی (Kantian deontology) و فایده‌گرایی (utilitarianism) است.[1][4]

مشوق‌های مالی برای این کار سرسام‌آور است. در حالی که متوسط حقوق یک فارغ‌التحصیل فلسفه در ایالات متحده تقریباً ۶۵,۰۰۰ دلار است، گزارش شده است که شرکت‌های برتر هوش مصنوعی به فیلسوفان حرفه‌ای بین ۲۵۰,۰۰۰ تا ۴۰۰,۰۰۰ دلار در سال پرداخت می‌کنند. این نقش‌ها بسیار رقابتی هستند و اغلب نیازمند مدرک دکترا و تجربه تحقیقاتی قابل توجهی می‌باشند.[4]

با این حال، تقاضای ناگهانی شرکت‌ها برای متخصصان اخلاق، بحث شدیدی را در محافل دانشگاهی برانگیخته است. برخی منتقدان استدلال می‌کنند که این استخدام‌های گسترده عمدتاً یک مانور روابط عمومی است. آنها در مورد «توجیه اخلاقی» (Ethics Washing) هشدار می‌دهند، جایی که شرکت‌ها ظاهراً تعهدی به ایمنی هوش مصنوعی نشان می‌دهند تا نهادهای نظارتی و عموم مردم را راضی کنند، در حالی که در نهایت همچنان در قبال سهامداران خود پاسخگو هستند.[5]

محققان نگرانند که با قرار گرفتن در لیست حقوق و دستمزد شرکت‌ها، فیلسوفان ممکن است در توانایی خود برای پرسیدن انتقادی‌ترین سؤالات در مورد وجود این فناوری محدود شوند. این ترس مداوم وجود دارد که تحقیقات فلسفی به عنوان امتدادی از عملکرد بازاریابی، طراحی شده برای نشان دادن ایمنی به جای اعمال آن، مورد سوءاستفاده قرار گیرد.[5]

با وجود این نگرانی‌ها، ادغام فیلسوفان در توسعه فناوری نشان‌دهنده یک تغییر عمیق در نحوه ساخت هوش مصنوعی است. بنیانگذاران فنی به طور فزاینده‌ای اذعان می‌کنند که ایمنی مدل یک مشکل اشکال‌زدایی استاندارد نیست که بتوان آن را به طور کامل در خطوط لوله داده حل کرد. تنظیمات صرفاً آماری در حل مسائل پیچیده همسوسازی شکست می‌خورند.[1]

این روند همچنین تحول گسترده‌تری را در اقتصاد دانش برجسته می‌کند. همانطور که هوش مصنوعی کارهای شناختی روتین را خودکار می‌کند، ارزش قضاوت انسانی، تفکر انتقادی و توانایی زیر سؤال بردن مفروضات پنهان در حال افزایش است. استارتاپ‌های نرم‌افزاری اکنون حتی در نقش‌های مهندسی نیز به دنبال مهارت‌های «فلسفه کاربردی» هستند و به دنبال نامزدهایی می‌گردند که بتوانند ابهام را مدیریت کنند.[4]

جیمی کارتر، مدیرعامل استارتاپ Daemo AI در سانفرانسیسکو، خاطرنشان می‌کند: «نامزدهایی که برای زیر سؤال بردن مفاهیم و تشخیص مفروضات پنهان آموزش دیده‌اند، این کار را بسیار بهتر از نامزدهایی انجام می‌دهند که فقط برنامه‌نویسی یاد گرفته‌اند.» هنگام طراحی یک عامل هوش مصنوعی که به یک لابی‌گر یا تحلیلگر مالی گزارش می‌دهد، باید کسی تصمیم بگیرد که «مهم» به چه معناست و چگونه منابع متضاد را به طور منصفانه نمایش دهد.[4]

این تغییر پارادایم، تأییدی برای علوم انسانی است. در حالی که هر فارغ‌التحصیل فلسفه‌ای شغل نیم میلیون دلاری در Google DeepMind به دست نخواهد آورد، مهارت‌های اساسی که در برنامه‌های علوم مقدماتی آموزش داده می‌شوند – استدلال دقیق، نگارش واضح و استدلال اخلاقی – ثابت کرده‌اند که به طور منحصر به فردی در برابر خودکارسازی مقاوم هستند.[2][3]

در نهایت، ظهور فیلسوف هوش مصنوعی نشان می‌دهد که آینده فناوری تنها توسط ریاضیات و قدرت پردازش دیکته نخواهد شد. همانطور که ماشین‌ها در تقلید از تفکر انسانی توانمندتر می‌شوند، افرادی که زندگی خود را صرف مطالعه ماهیت خود تفکر کرده‌اند، ناگهان کسانی هستند که فرمان را در دست دارند.[1][4]