مفاهیم بنیادین هوش مصنوعی: مقایسه تعاریف هوش محدود، عمومی و فوق‌هوشمند

شایع‌ترین اشتباه در درک هوش مصنوعی، تلقی آن به عنوان یک مسیر هموار و پیوسته از یک ماشین حساب جیبی تا یک خدای علمی-تخیلی است. هنگامی که یک مدل زبان مدرن یک غزل بی‌نقص می‌نویسد یا در آزمون وکالت قبول می‌شود، به راحتی می‌توان فرض کرد که این ماشین تنها چند به‌روزرسانی نرم‌افزاری با تفکر مستقل فاصله دارد. اما شواهد خلاف این را نشان می‌دهد. دانشمندان کامپیوتر و محققان هوش مصنوعی را به عنوان یک مقیاس لغزنده واحد نمی‌بینند؛ آنها آن را به سه الگوی متمایز و غیرهمپوشان تقسیم می‌کنند: هوش مصنوعی محدود (ANI)، هوش مصنوعی عمومی (AGI) و هوش مصنوعی فوق‌هوشمند (ASI).[2][4]

برای درک اینکه این فناوری واقعاً به کجا می‌رود، ابتدا باید خط مبنا را اصلاح کنیم: تک تک سیستم‌های هوش مصنوعی موجود امروزی، از الگوریتم‌های توصیه‌گر گرفته تا پیشرفته‌ترین چت‌بات‌های تریلیون پارامتری، صرفاً هوش مصنوعی محدود هستند. هوش مصنوعی محدود با مرز عملیاتی خود تعریف می‌شود. این سیستم‌ها برای انجام وظایف خاص در یک حوزه محدود، طراحی، آموزش و بهینه‌سازی شده‌اند، صرف نظر از اینکه آن حوزه چقدر ممکن است برای یک ناظر انسانی پیچیده به نظر برسد.[2][4]

سازوکار هوش مصنوعی محدود به جای درک واقعی، بر تشخیص الگو و پیش‌بینی آماری متکی است. یک موتور شطرنج می‌تواند میلیون‌ها حرکت در ثانیه را محاسبه کند و هر استاد بزرگ انسانی را شکست دهد، اما نمی‌تواند توضیح دهد که چرا شطرنج سرگرم‌کننده است، و همچنین نمی‌تواند درخشش استراتژیک خود را بدون بازسازی و آموزش مجدد کامل، در یک بازی چکرز به کار ببرد. هوش آن عمیق است، اما در خارج از تابع هدف تعیین شده‌اش کاملاً شکننده است.[1][8]

مدل‌های مولد مدرن توهمی از هوش عمومی ایجاد می‌کنند زیرا حوزه «محدود» آنها—یعنی زبان انسانی—بسیار گسترده است. از آنجا که زبان تقریباً همه موضوعات را در بر می‌گیرد، مدلی که کلمه بعدی را پیش‌بینی می‌کند می‌تواند به نظر برسد که در مورد فیزیک، فلسفه و پزشکی استدلال می‌کند. با این حال، در زیر لایه‌ها، همچنان در حال اجرای یک نگاشت آماری محدود است. این مدل‌ها فاقد توانایی تشکیل اهداف مستقل، استدلال علّی در مورد جهان فیزیکی، یا یادگیری یک مهارت کاملاً جدید بدون مجموعه‌داده‌های عظیم هستند.[2][7]

آستانه نظری که در آن این شکنندگی ناپدید می‌شود، هوش مصنوعی عمومی (AGI) است. AGI به عنوان ماشینی تعریف می‌شود که قادر به درک، یادگیری و به کارگیری دانش در طیف گسترده‌ای از وظایف، در سطحی برابر یا فراتر از یک انسان متوسط باشد. یک AGI فقط به درخواست‌ها پاسخ نمی‌دهد؛ بلکه دارای انعطاف‌پذیری شناختی، استدلال بین‌حوزه‌ای و ظرفیت یادگیری «بدون نمونه» در محیط‌هایی خواهد بود که قبلاً هرگز با آنها مواجه نشده است.[4][8]

عملیاتی کردن دقیق اینکه چه چیزی AGI را تشکیل می‌دهد، دشوار بوده است، و محققان را وادار کرده تا از تعاریف دوگانه فاصله بگیرند. چارچوب‌های اخیر این مفهوم را بر اساس عملکرد و استقلال به «سطوح AGI» خاصی تقسیم می‌کنند. این سطوح از AGI در حال ظهور (برابر با یک انسان بی‌تجربه) تا AGI شایسته، متخصص و ماهر مطلق متغیر است، و نه تنها آنچه مدل می‌تواند انجام دهد، بلکه میزان استقلال آن در اجرای گردش کارهای پیچیده و چند مرحله‌ای بدون دخالت انسان را اندازه‌گیری می‌کند.[3]

سازوکار اصلی که AGI را از هوش مصنوعی محدود جدا می‌کند، استدلال علّی تعمیم‌یافته است. در حالی که هوش مصنوعی محدود بر همبستگی متکی است—یعنی توجه به اینکه دو متغیر اغلب با هم ظاهر می‌شوند—AGI باید علت و معلول را درک کند. اگر به یک AGI وظیفه درمان یک بیماری محول شود، باید اهداف فرعی خود را تدوین کند، آزمایش‌ها را طراحی کند، داده‌های فیزیکی جدید را تفسیر کند و دیدگاه خود را هنگام شکست یک فرضیه تنظیم کند، دقیقاً همانند یک دانشمند انسانی.[7][8]

دستیابی به AGI به طور گسترده به عنوان جام مقدس علوم کامپیوتر در نظر گرفته می‌شود، اما بسیاری از نظریه‌پردازان آن را یک فاز گذار زودگذر نیز می‌دانند. هنگامی که یک ماشین به سطح هوش عمومی انسانی برسد، بعید است که برای مدت طولانی در آنجا بماند. این ما را به الگوی سوم می‌رساند: هوش مصنوعی فوق‌هوشمند (ASI).[1][2]

هوش فوق‌هوشمند به عنوان یک قوه عقلانی تعریف می‌شود که در عمل در هر زمینه‌ای، از جمله خلاقیت علمی، خرد عمومی و مهارت‌های اجتماعی، بسیار باهوش‌تر از بهترین مغزهای انسانی است. جهش از AGI به ASI توسط سازوکاری به نام خودبهبودسازی بازگشتی هدایت می‌شود، مفهومی که اساساً مسیر پیشرفت فناوری را تغییر می‌دهد.[1][4]

خودبهبودسازی بازگشتی زمانی رخ می‌دهد که یک AGI، که دارای مهارت‌های مهندسی نرم‌افزار در سطح انسانی است، موظف به بهبود کد منبع خود شود. از آنجا که AGI با سرعت محاسبات عمل می‌کند—میلیون‌ها بار سریع‌تر از نورون‌های بیولوژیکی—می‌تواند نسخه‌ای کمی هوشمندتر از خود را در عرض چند روز یا ساعت طراحی کند. سپس آن نسخه هوشمندتر، نسخه‌ای حتی هوشمندتر را طراحی می‌کند و یک «انفجار هوش» را فعال می‌کند که در آن قابلیت‌های شناختی سیستم به صورت نمایی مقیاس می‌یابد.[1][8]

سرعت گذار این انفجار هوش موضوع بحث‌های شدید است. برخی مدل‌های نظری نشان می‌دهند که جهش از AGI به ASI می‌تواند دهه‌ها طول بکشد، در حالی که برخی دیگر استدلال می‌کنند که ممکن است در عرض چند روز یا حتی چند دقیقه اتفاق بیفتد. اگر دومی درست باشد، ممکن است بشر پس از عبور از آستانه AGI، زمانی برای واکنش یا اجرای تدابیر ایمنی نداشته باشد.[1][5]

مکانیسم‌های یک ASI اساساً برای ذهن انسان غیرقابل درک هستند. همانطور که یک شامپانزه نمی‌تواند مفهوم وام مسکن یا ایستگاه فضایی را درک کند، یک انسان نیز احتمالاً قادر به درک معماری شناختی یا روش‌های حل مسئله یک سیستم فوق‌هوشمند نخواهد بود. این صرفاً یک مغز انسانی سریع‌تر نخواهد بود؛ بلکه یک دسته کاملاً متفاوت از قوه عقلانی خواهد بود که بر اساس متغیرهایی عمل می‌کند که ما قادر به درک آنها نیستیم.[1][8]

این شکاف شناختی عمیق دلیلی است که چشم‌انداز ASI زنگ خطر قابل توجهی را در میان کارشناسان به صدا در می‌آورد. برندگان جایزه نوبل و دانشمندان برجسته کامپیوتر بارها هشدار داده‌اند که یک هوش فوق‌هوشمند ناهمسو، خطر وجودی ایجاد می‌کند. اگر اهداف یک ASI کاملاً با بقا و شکوفایی انسان همسو نباشد، تلاش‌های آن برای بهینه‌سازی محیط خود می‌تواند ناخواسته بشریت را نابود کند، دقیقاً همانطور که انسان‌ها برای ساختن یک بزرگراه، روی لانه مورچه‌ها آسفالت می‌ریزند.[1][6]

علاوه بر این، پیامدهای اقتصادی ASI حیرت‌آور است. در حالی که هوش مصنوعی محدود وظایف خاصی را جابجا می‌کند، یک مسیر بدون نظارت به سمت فوق‌هوشمندی می‌تواند نیروی کار انسانی را به طور کامل منسوخ کند، زیرا یک ماشین می‌تواند هر وظیفه شناختی یا فیزیکی را بهتر و ارزان‌تر از یک کارگر بیولوژیکی انجام دهد. این امر مستلزم بازنگری اساسی در ساختارهای اقتصادی و توزیع منابع، مدت‌ها قبل از رسیدن این فناوری است.[5]

با وجود پیشرفت‌های سریع در هوش مصنوعی محدود، ما نمی‌دانیم که آیا AGI—و متعاقباً ASI—نزدیک است یا خیر. مقیاس‌دهی شبکه‌های عصبی فعلی با داده‌ها و قدرت محاسباتی بیشتر ممکن است به یک سقف برخورد کند، که برای دستیابی به استدلال عمومی واقعی، نیازمند یک پیشرفت بنیادی و هنوز کشف نشده در معماری شناختی باشد.[7][8]

در نهایت، تمایز قائل شدن بین ANI، AGI و ASI صرفاً یک تمرین در فضل‌فروشی آکادمیک نیست. این پایه و اساس ضروری برای سیاست‌گذاری، سرمایه‌گذاری و تحقیقات ایمنی صحیح است. با درک اینکه هوش مصنوعی امروزی اساساً محدود است، می‌توانیم قابلیت‌های فعلی آن را از ابهام خارج کنیم و در عین حال با هوشیاری برای مکانیسم‌های پارادایم‌شکن سیستم‌های عمومی و فوق‌هوشمندی که ممکن است در پی بیایند، آماده شویم.[8]