کالبدشکافی مدل‌های زبانی بزرگ: هوش مصنوعی واقعاً چگونه «فکر» می‌کند؟

ما با هوش مصنوعی طوری صحبت می‌کنیم که گویی یک موجود متفکر است. وقتی از چت‌بات‌ها سوال می‌پرسیم، آن‌ها با لحنی مطمئن، منطقی و گاهی خلاقانه پاسخ می‌دهند. شرکت‌های فناوری با استفاده از واژگانی مانند «درک کردن»، «استدلال» و «هوش»، این توهم را تقویت می‌کنند که ما در حال تعامل با یک ذهن دیجیتال هستیم. اما واقعیتِ زیربنایی این سیستم‌ها، بسیار متفاوت از بازاریابی‌های پر زرق و برق است.[5]

در هسته مرکزی خود، مدل‌های زبانی بزرگ (LLMs) مانند GPT-4 یا Gemini، هیچ چیزی را «نمی‌فهمند». آن‌ها نه معنای کلمات را می‌دانند و نه درکی از جهان فیزیکی دارند. آنچه این سیستم‌ها انجام می‌دهند، یک عملیات ریاضی به شدت پیچیده و در عین حال ساده است: پیش‌بینی کلمه بعدی. آن‌ها ماشین‌های آماری غول‌پیکری هستند که با بررسی میلیاردها متن، یاد گرفته‌اند که پس از یک سری کلمات خاص، محتمل‌ترین کلمه بعدی چیست.[1][3]

برای درک این مکانیزم، ابتدا باید بدانیم که هوش مصنوعی متن را چگونه می‌بیند. انسان‌ها جملات را به صورت مفاهیم پیوسته می‌خوانند، اما مدل‌های زبانی، متن را به قطعات کوچکی به نام «توکن» (Token) خرد می‌کنند. یک توکن می‌تواند یک کلمه کامل، بخشی از یک کلمه یا حتی یک علامت نگارشی باشد. مدل‌های زبانی در واقع کلمات را نمی‌خوانند، بلکه توالی این توکن‌ها را پردازش می‌کنند.[3]

از آنجا که کامپیوترها زبان انسان را نمی‌فهمند، این توکن‌ها باید به زبان ریاضی ترجمه شوند. این فرآیند «تعبیه» یا Embedding نام دارد. هر توکن به یک بردار (لیستی از اعداد) در یک فضای چندبُعدی تبدیل می‌شود. کلماتی که معنای مشابهی دارند یا غالباً در کنار هم ظاهر می‌شوند، در این فضای ریاضی به یکدیگر نزدیک‌ترند. به این ترتیب، مدل به جای درک معنای کلمه «پادشاه»، تنها می‌داند که مختصات ریاضی این کلمه به «مرد» و «قدرت» نزدیک است.[2]

اما پیش‌بینی کلمه بعدی بر اساس کلمات قبلی، ایده جدیدی نیست. قابلیت تکمیل خودکار (Autocomplete) در گوشی‌های هوشمند سال‌هاست که این کار را انجام می‌دهد. تفاوت اصلی در مقیاس و معماری است. در سال ۲۰۱۷، محققان گوگل معماری جدیدی به نام «ترانسفورمر» (Transformer) را معرفی کردند که دنیای پردازش زبان طبیعی را برای همیشه متحول کرد.[4]

راز موفقیت ترانسفورمرها در مفهومی به نام «مکانیسم توجه» (Attention Mechanism) نهفته است. در مدل‌های قدیمی‌تر، سیستم متن را کلمه به کلمه و به ترتیب می‌خواند و به سرعت زمینه (Context) را فراموش می‌کرد. اما مکانیسم توجه به مدل اجازه می‌دهد تا تمام کلمات یک متن را به طور همزمان بررسی کند و تشخیص دهد که کدام کلمات، حتی اگر با فاصله زیادی از هم قرار داشته باشند، به یکدیگر مرتبط هستند.[2][4]

برای مثال، در جمله «بانک به دلیل مشکلات مالی بسته شد و او روی نیمکت چوبی آن نشست»، کلمه «آن» می‌تواند مبهم باشد. مکانیسم توجه با بررسی کل جمله، وزن بیشتری به کلمات «نیمکت» و «چوبی» می‌دهد و از نظر ریاضی محاسبه می‌کند که منظور، یک شیء فیزیکی برای نشستن است، نه یک موسسه مالی. این قابلیت به مدل اجازه می‌دهد تا وابستگی‌های طولانی‌مدت در متن را حفظ کند.[1][4]

این سیستم‌ها چگونه این محاسبات را یاد می‌گیرند؟ از طریق فرآیندی به نام یادگیری خودنظارتی (Self-supervised learning). در مرحله آموزش، بخش عظیمی از اینترنت شامل کتاب‌ها، مقالات، وب‌سایت‌ها و کدها به مدل داده می‌شود. سیستم یک جمله را می‌خواند، کلمه آخر آن را پنهان می‌کند و سعی می‌کند آن را حدس بزند.[1]

در ابتدا، حدس‌های مدل کاملاً تصادفی و اشتباه است. اما پس از هر حدس، سیستم پاسخ خود را با کلمه واقعی مقایسه می‌کند و میلیاردها پارامتر داخلی خود را به مقدار بسیار ناچیزی تنظیم می‌کند تا در دفعه بعد، حدس بهتری بزند. این چرخه تریلیون‌ها بار تکرار می‌شود تا زمانی که مدل در پیش‌بینی الگوهای زبانی به مهارت خارق‌العاده‌ای دست یابد.[2]

وقتی شما یک پرسش (Prompt) را وارد می‌کنید، مدل پاسخی از پیش آماده در ذهن ندارد. او حتی کل جمله پاسخ را پیش از تایپ کردن برنامه‌ریزی نمی‌کند. سیستم تمام متن شما را می‌خواند، آن را از لایه‌های توجه عبور می‌دهد، به هر توکن ممکن در دایره واژگانش یک امتیاز احتمال اختصاص می‌دهد، محتمل‌ترین توکن را انتخاب می‌کند و آن را روی صفحه می‌نویسد. سپس کل این فرآیند را برای کلمه بعدی تکرار می‌کند.[3]

درک این مکانیزم، بزرگترین نقطه ضعف هوش مصنوعی را نیز توضیح می‌دهد: توهم (Hallucination). از آنجا که مدل هیچ درکی از حقیقت یا واقعیت فیزیکی ندارد و تنها به دنبال تولید متنی است که از نظر آماری «محتمل» و طبیعی به نظر برسد، گاهی اوقات اطلاعات کاملاً غلطی را با لحنی بسیار قاطع و متقاعدکننده تولید می‌کند. برای مدل، تفاوت بین یک حقیقت علمی و یک دروغ خوش‌ساخت، تنها در توزیع احتمالات ریاضی است.[5]

هوش مصنوعی تولیدگر، یک دستاورد مهندسی بی‌نظیر است که می‌تواند ساختار و فرم زبان انسان را با دقتی بی‌سابقه شبیه‌سازی کند. اما در پس این جادوی ظاهری، هیچ شبحی در ماشین وجود ندارد؛ تنها ریاضیات، آمار و شبکه‌ای عظیم از اعداد در حال محاسبه محتمل‌ترین کلمه بعدی هستند.[3][5]