نگاشت معنا: چگونه تعبیه‌های برداری (Vector Embeddings) زبان انسان را به هندسه‌ی هوش مصنوعی تبدیل می‌کنند

یک کاربر در پایگاه داده‌ای مسافرتی عبارت «تجربه‌های غروب عاشقانه» را جستجو می‌کند، اما پایگاه داده فقط حاوی عبارت «شام ساحلی عصرگاهی با چشم‌انداز اقیانوس» است. جستجوی سنتی کلمات کلیدی کاملاً شکست می‌خورد و هیچ نتیجه‌ای برنمی‌گرداند، زیرا هیچ یک از کلمات مطابقت ندارند. با این حال، سیستم‌های هوش مصنوعی مدرن فوراً این دو مفهوم را به هم متصل می‌کنند. این سازوکار اصلی جستجوی معنایی است که تطبیق دقیق کلمات را به نفع نزدیکی هندسی کنار می‌گذارد.

موتور محرک این تحول، «تعبیه‌ی برداری» (Vector Embedding) است. به جای خواندن متن به عنوان دنباله‌ای از کاراکترها، یک مدل تعبیه، جملات را به مختصات ریاضی چندبُعدی ترجمه می‌کند. کلمات و عباراتی با معانی مشابه در این نقشه فضایی گسترده در نزدیکی یکدیگر قرار می‌گیرند و به الگوریتم‌ها اجازه می‌دهند به جای املای کلمات، فاصله بین مفاهیم را محاسبه کنند.

برای درک مقیاس این هندسه، مدل‌های پیشرویی را در نظر بگیرید که در حال حاضر جستجوی سازمانی را تقویت می‌کنند. مدل متن‌باز BGE-M3، که توسط آکادمی هوش مصنوعی پکن توسعه یافته است، متن را در یک فضای ۱٬۰۲۴ بُعدی نگاشت می‌کند.

مدل embed-english-v3.0 شرکت Cohere دقیقاً با همین وضوح ۱٬۰۲۴ بُعدی کار می‌کند و برای ایجاد تعادل بین دقت معنایی و سرعت بازیابی بهینه‌سازی شده است.

مدل text-embedding-3-large شرکت OpenAI این مرز را فراتر می‌برد. این شرکت که در اوایل سال ۲۰۲۴ منتشر شد، اعلام کرد که «text-embedding-3-large مدل تعبیه‌ی بزرگتر نسل بعدی ما است و تعبیه‌هایی با حداکثر ۳٬۰۷۲ بُعد ایجاد می‌کند»، که ظریف‌ترین تمایزات معنایی قابل نمایش توسط این معماری را به تصویر می‌کشد.[1]

اما ترسیم این مختصات تنها نیمی از ماجراست؛ بازیابی آن‌ها نیازمند زیرساخت تخصصی است. همانطور که مهندسان Unstructured اشاره می‌کنند، «پایگاه داده برداری، پایگاه داده‌ای است که برای ذخیره، نمایه‌سازی و جستجوی بردارهای تعبیه ساخته شده است.» پایگاه‌های داده رابطه‌ای سنتی برای جستجوهای دقیق و تراکنش‌ها بهینه‌سازی شده‌اند و برای محاسبه فواصل هندسی در میان میلیاردها آرایه چندبُعدی کاملاً نامناسب هستند.

اینجاست که پایگاه داده برداری وارد می‌شود. پلتفرم‌هایی مانند Pinecone، Milvus و Weaviate به طور خاص برای ذخیره و نمایه‌سازی این آرایه‌های عظیم اعداد ساخته شده‌اند. هنگامی که یک جستجو وارد می‌شود، پایگاه داده تمام رکوردها را اسکن نمی‌کند؛ در عوض، از الگوریتم‌های نزدیک‌ترین همسایه تقریبی (ANN) استفاده می‌کند تا به سرعت در فضای برداری حرکت کرده و نزدیک‌ترین مختصات را بازگرداند.

این معماری یک موازنه محاسباتی جدی را معرفی می‌کند که به «نفرین بُعد» (Curse of Dimensionality) معروف است. با افزایش تعداد ابعاد، حافظه مورد نیاز برای ذخیره بردارها و قدرت پردازشی لازم برای محاسبه فواصل آن‌ها به صورت خطی افزایش می‌یابد و هزینه‌های زیرساخت سازمانی را بالا می‌برد.

مقایسه وضوح فضایی در برابر عملکرد بازیابی، یک منحنی کارایی آشکار را نشان می‌دهد. در حالی که text-embedding-3-large شرکت OpenAI سه برابر ابعاد خام مدل‌های Cohere v3.0 یا BGE-M3 را ارائه می‌دهد، کارایی بازیابی نرمال‌شده در آستانه ۱٬۰۲۴ بُعد به اوج خود می‌رسد.[2]

فراتر از آن مرز ۱٬۰۲۴ بُعدی، استقرارهای سازمانی ۲۰۰ درصد جریمه ذخیره‌سازی و محاسباتی را برای دستاوردهای معنایی ناچیز در معیارهای استاندارد بازیابی پرداخت می‌کنند. ۲٬۰۴۸ بُعد اضافی ویژگی‌های زبانی بسیار ظریفی را ثبت می‌کنند، اما برای بازیابی اسناد استاندارد، اغلب نشان‌دهنده سربار پرهزینه هستند.[2]

برای حل این مشکل، محققان «یادگیری بازنمایی ماتریوشکا» (Matryoshka Representation Learning یا MRL) را معرفی کرده‌اند. MRL که به نام عروسک‌های تودرتوی روسی نامگذاری شده است، مدل تعبیه را آموزش می‌دهد تا حیاتی‌ترین اطلاعات معنایی را در ابعاد اولیه بردار بارگذاری کند.

با MRL، توسعه‌دهندگان می‌توانند یک بردار ۳٬۰۷۲ بُعدی را گرفته و آن را کوتاه کنند. همانطور که محققان Pinecone توضیح می‌دهند، «MRL اطلاعات را در بُعدهای مختلف تعبیه رمزگذاری می‌کند... این امر امکان اندازه‌های تعبیه‌ی تا ۱۴ برابر کوچکتر را با کاهش ناچیز در دقت فراهم می‌سازد.» بردار کوتاه شده ویژگی‌های اصلی نمایش مفهوم خود را حفظ می‌کند و به سیستم‌ها اجازه می‌دهد کسری از درصد دقت را با کاهش چشمگیر در هزینه‌های ذخیره‌سازی معاوضه کنند.

این انعطاف‌پذیری، ذخیره‌سازی برداری را از یک هزینه ثابت زیرساختی به یک پارامتر قابل تنظیم تبدیل می‌کند. تیم‌هایی که نمایه‌هایی با صدها میلیون سند را مدیریت می‌کنند، اکنون اهرمی مستقیم برای کنترل صورت‌حساب‌های ابری خود بدون نیاز به آموزش مجدد مدل‌هایشان دارند.

جامعه متن‌باز به گونه‌ای متفاوت به این مشکل نزدیک می‌شود. مدل‌هایی مانند BGE-M3 عملکرد بالا را نه با افزایش ابعاد، بلکه با ترکیب بردارهای فشرده ۱٬۰۲۴ بُعدی با تطبیق کلمات کلیدی پراکنده و امتیازدهی ColBERT در سطح توکن، در یک مرحله واحد به دست می‌آورند.

مکانیسم تعبیه‌های برداری ثابت می‌کند که زبان انسان را می‌توان به طور قابل اعتمادی کمی‌سازی کرد. چالش مهندسی در حال حاضر دیگر این نیست که آیا هوش مصنوعی می‌تواند معنا را درک کند، بلکه این است که چگونه می‌توانیم آن معنا را با کارایی بالا در ریاضیات فشرده کنیم.