کالبدشکافی RAG: هوش مصنوعی واقعاً چگونه برای دروغ نگفتن تقلب می‌کند؟

در یک سوی میدان، طرفداران خالص‌گرای هوش مصنوعی استدلال می‌کنند که مدل‌های زبانی بزرگ صرفاً به پارامترهای بیشتر و داده‌های آموزشی بهتر نیاز دارند؛ اگر مدلی دچار توهم می‌شود، به این دلیل است که دانش جهان را به اندازه کافی عمیق درونی نکرده است. در سوی دیگر، معماران داده‌های سازمانی پافشاری می‌کنند که شبکه‌های عصبی اساساً بانک‌های حافظه غیرقابل اعتمادی هستند که توانایی نگهداری امن داده‌های پویای شرکتی را بدون تحریف واقعیت ندارند.[4]

تنش میان «آموزش بده تا همه چیز را بداند» و «اعتماد نکن که چیزی را به خاطر بسپارد»، مسیر تجاری‌سازی هوش مصنوعی مولد را در سال‌های اخیر تعریف کرده است. سازش و راهکاری که در حال حاضر صنعت را به پیش می‌راند، نه یک مغز بهتر است و نه یک پایگاه داده سخت‌گیرتر. این راهکار یک میان‌بر مهندسی به نام «تولید افزوده با بازیابی» یا RAG است که اولین بار در سال ۲۰۲۰ توسط محققان هوش مصنوعی متا (Meta AI) از جمله پاتریک لوئیس معرفی شد.[1]

برای درک اینکه چرا RAG ضروری است، باید بفهمیم یک مدل زبانی بزرگ (LLM) واقعاً چیست. این مدل‌ها پایگاه داده نیستند؛ آن‌ها موتورهای پیش‌بینی کلمات بر اساس احتمالات آماری‌اند. وقتی یک مدل ۷ میلیارد پارامتری به سوالی پاسخ می‌دهد، در حال جستجو در یک هارد دیسک نیست، بلکه در حال محاسبه این است که کدام کلمه از نظر ریاضی محتمل‌ترین کلمه بعدی است. این معماری برای تولید متن‌های روان عالی است، اما برای بیان حقایق دقیق فاجعه‌بار عمل می‌کند.[2]

به‌روزرسانی دانش این مدل‌ها از طریق آموزش مجدد (Fine-tuning) به شدت گران و کند است. آموزش یک مدل پایه می‌تواند ده‌ها میلیون دلار هزینه داشته باشد و ماه‌ها طول بکشد. شرکت آی‌بی‌ام (IBM) در مستندات تحقیقاتی خود می‌نویسد: «تولید افزوده با بازیابی (RAG) تکنیکی است که دانش مدل‌های زبانی بزرگ را با داده‌های اضافی و خارجی تقویت می‌کند.» این یعنی به جای اینکه از هوش مصنوعی بخواهیم همه چیز را حفظ کند، به او اجازه می‌دهیم تقلب کند.[1]

مکانیزم RAG بر پایه یک تغییر معماری ساده اما قدرتمند استوار است: تبدیل کلمات به اعداد. در مرحله اول، تمام اسناد، فایل‌های PDF و پایگاه‌های داده یک سازمان توسط یک مدل جاسازی (Embedding) به بردارهای ریاضی تبدیل می‌شوند. به عنوان مثال، یک پاراگراف متنی به یک بردار ۱۵۳۶ بعدی تبدیل می‌شود که مختصات دقیق معنای آن را در یک فضای ریاضی نشان می‌دهد.[3]

این اعداد در یک پایگاه داده برداری (Vector Database) ذخیره می‌شوند. شرکت‌هایی مانند پاین‌کون (Pinecone) که زیرساخت این پایگاه‌ها را تامین می‌کنند، معماری آن را این‌گونه توضیح می‌دهند که وقتی کاربر سوالی می‌پرسد، آن سوال نیز به یک بردار تبدیل می‌شود. سپس سیستم با سرعت زیر ۵۰۰ میلی‌ثانیه، نزدیک‌ترین بردارها را از نظر فاصله ریاضی پیدا می‌کند. این جستجو بر اساس کلمات کلیدی نیست، بلکه بر اساس نزدیکی معنایی است.[3]

آمازون وب سرویس (AWS) در تعریف فنی خود از این فرآیند می‌آورد: «RAG یک ورودی را می‌گیرد و مجموعه‌ای از اسناد مرتبط و پشتیبان را از یک منبع داده بازیابی می‌کند.» پس از پیدا شدن این اسناد، سیستم آن‌ها را به همراه سوال اصلی کاربر در یک بسته متنی قرار داده و به عنوان یک دستور (Prompt) واحد به مدل زبانی ارسال می‌کند.[2]

در این مرحله، رفتار هوش مصنوعی کاملاً تغییر می‌کند. مدل دیگر نیازی ندارد به حافظه پارامتریک خود که مستعد خطاست تکیه کند. در عوض، او در موقعیت یک آزمون «کتاب باز» قرار می‌گیرد. دستور پنهانی که سیستم به مدل می‌دهد چیزی شبیه به این است: «با استفاده از این ۳ پاراگراف متنی که در ادامه آمده است، به سوال کاربر پاسخ بده و اگر جواب در این متن‌ها نیست، بگو نمی‌دانم.» این ترفند ساده می‌تواند نرخ توهم را تا ۸۰ درصد کاهش دهد.[4]

با این حال، این سیستم بی‌نقص نیست. پاشنه آشیل RAG، کیفیت موتور جستجوی برداری آن است. اگر پایگاه داده نتواند سند درست را در میان میلیون‌ها رکورد پیدا کند، مدل زبانی با دست خالی مواجه می‌شود. بدتر از آن، اگر سیستم بازیابی یک سند منسوخ شده یا اشتباه را برگرداند، هوش مصنوعی با اطمینان کامل و لحنی متقاعدکننده، یک دروغ مستند را به کاربر تحویل می‌دهد.[1]

محدودیت دیگر، پدیده‌ای است که محققان آن را «گم شدن در میانه» (Lost in the Middle) می‌نامند. اگر سیستم بازیابی بیش از ۲۰ سند را به صورت همزمان وارد پنجره زمینه (Context Window) مدل کند، هوش مصنوعی معمولاً اطلاعاتی را که در ابتدا و انتهای متن قرار دارند به خوبی درک می‌کند، اما جزئیات حیاتی پنهان شده در پاراگراف‌های میانی را نادیده می‌گیرد یا فراموش می‌کند.[3]

بازاریابی شرکت‌های فناوری اغلب این واقعیت‌ها را پنهان می‌کند. آن‌ها سیستم‌های مبتنی بر RAG را به عنوان «هوش مصنوعی که داده‌های شما را می‌فهمد» می‌فروشند. اما در واقعیت، این سیستم‌ها صرفاً یک موتور جستجوی پیشرفته هستند که به یک خلاصه‌ساز متنی متصل شده‌اند. هوش مصنوعی هیچ درک عمیق‌تری از داده‌های شما پیدا نکرده است؛ او فقط متنی را که در همان لحظه به او داده شده، بازنویسی می‌کند.[4]

در سال ۲۰۲۴، با معرفی مدل‌هایی که پنجره زمینه بسیار بزرگی دارند (مانند مدل‌هایی با ظرفیت پردازش ۱ تا ۲ میلیون توکن به صورت همزمان)، برخی استدلال کردند که RAG به زودی منسوخ خواهد شد. ایده این بود که وقتی می‌توانید کل بایگانی اسناد یک شرکت را در یک درخواست به مدل بدهید، دیگر چه نیازی به جستجو و بازیابی قطعات کوچک است؟[2]

اما اقتصاد محاسباتی و امنیت اطلاعات داستان دیگری می‌گویند. پردازش ۱ میلیون توکن در هر بار پرسش، هزینه‌های پردازش ابری را به شدت افزایش می‌دهد و زمان پاسخگویی را کند می‌کند. علاوه بر این، در یک سازمان بزرگ، همه کارمندان نباید به همه اسناد دسترسی داشته باشند. سیستم RAG اجازه می‌دهد که کنترل دسترسی (Access Control) در سطح پایگاه داده اعمال شود؛ به این معنی که موتور جستجو فقط اسنادی را برای هوش مصنوعی می‌آورد که کاربرِ درخواست‌کننده، مجوز دیدن آن‌ها را داشته باشد.[3]

معماری RAG نشان‌دهنده بلوغ مهندسی در مواجهه با محدودیت‌های علمی است. به جای تلاش بی‌پایان برای ساختن یک مدل زبانی که هرگز اشتباه نمی‌کند، مهندسان پذیرفته‌اند که این مدل‌ها ذاتا رویاپرداز هستند. با محدود کردن فضای رویاپردازی آن‌ها به چند پاراگراف از پیش تایید شده، صنعت توانسته است یک فناوری غیرقابل پیش‌بینی را به یک ابزار تجاری قابل اتکا تبدیل کند.[4]