چرا شبکههای عصبی دو برجی برای نمایش میلیثانیهای فید، تلفیق ویژگیها را ممنوع میکنند؟
پلتفرمهای اجتماعی برای ارائه فیدهای شخصیسازیشده از میان میلیاردها پست در عرض چند میلیثانیه، از شبکههای عصبی دو برجی استفاده میکنند که در زمان استنتاج، دادههای کاربر را کاملاً از دادههای محتوا جدا نگه میدارند. این محدودیت معماری به پلتفرمها اجازه میدهد بردار تعبیهشده پستها را بهصورت آفلاین پیشمحاسبه کنند و یک محاسبه بلادرنگِ از نظر ریاضی ناممکن را به یک جستجوی برداری ساده تبدیل نمایند.
به قلم کیان راد
این خبر را به اشتراک بگذارید
بهطور خلاصه
- پلتفرمهای رسانههای اجتماعی برای فیلتر کردن میلیاردها پست در چند میلیثانیه، از شبکههای عصبی دو برجی بهره میبرند که دادههای کاربر را کاملاً از دادههای محتوا تفکیک میکنند.
- ممنوعیت استفاده از ویژگیهای متقابل امکان پیشمحاسبه آفلاین بردار تعبیهشده پستها را فراهم کرده و استنتاج زنده را به یک جستجوی هندسی برداری ساده تبدیل میکند.
- مدل دو برجی بهمنزله یک فیلتر سریع و تقریبی عمل میکند که صرفاً چند صد کاندیدا را به مدل رتبهبندی سنگینتر تحویل میدهد تا ویژگیهای متقابل نهایتاً در آن مرحله اعمال شوند.
در این مطلب
پلتفرمهای رسانههای اجتماعی اغلب ادعا میکنند فیدهای آنها با هوش مصنوعی قدرتمندی هدایت میشود که رابطه ظریف و عمیق بین کاربر و تکتک محتواها را کاملاً درک میکند. اما واقعیت فنی بسیار مکانیکیتر از این حرفهاست: شبکههای عصبی که وظیفه فراخوانی فید شما را دارند، تا آخرین میلیثانیهی ممکن، اکیداً از ترکیب دادههای شما با دادههای پست منع شدهاند.
این محدودیت ساختاری که به «مدل دو برجی» (Two-Tower) معروف است، صرفاً برای بقای محاسباتی سیستم طراحی شده است. اگر قرار بود الگوریتم بررسی کند که تعامل تاریخچه مشخص شما با ویژگیهای یک پست خاص چگونه است، باید برای تکتک پستهای موجود در پلتفرم، یک دور کامل محاسبات شبکه عصبی اجرا میکرد.
با ایزوله نگه داشتن دادههای کاربر و دادههای محتوا در دو برج مجزا، پلتفرمها میتوانند بردار پستها را پیشاپیش بهصورت آفلاین محاسبه کنند و یک محاسبه بلادرنگِ از نظر ریاضی غیرممکن را به یک جستجوی برداری ساده تقلیل دهند.
در مستندات مهندسی گوگل کلود آمده است: «مزیت اصلی چنین معماری، توانایی جداسازی استنتاج برای بازنمایی کوئری و کاندیداست.» همین تفکیک است که ارائه فیدهایی در مقیاس جهانی را از نظر فیزیکی امکانپذیر میکند؛ امری که هیاهوی بازاریابی را کنار میزند و یک قیف پردازشی خشن و بهشدت بهینهسازیشده را به نمایش میگذارد.[2]
انفجار ترکیبیاتی ویژگیهای متقابل
برای درک ضرورت مدل دو برجی، باید دید این مدل مشخصاً جلوی چه چیزی را میگیرد: «ویژگیهای متقابل» (Cross-Features). ویژگی متقابل نقطهدادهای است که تنها زمانی پدید میآید که یک کاربر خاص در کنار یک آیتم خاص قرار گیرد؛ مثلاً اینکه یک کاربر در هفت روز گذشته چند بار ویدیوهای یک تولیدکننده محتوای خاص را تماشا کرده است.
ویژگیهای متقابل شاخصهای فوقالعاده قدرتمندی برای پیشبینی میزان تعامل هستند. اگر سیستم توصیهگر بتواند از آنها استفاده کند، دقت آن سر به فلک میکشد، چون میتواند ترجیحات بسیار دقیق و مشروط کاربر را بسنجد. اما محاسبه آنها مستلزم «تلفیق زودهنگام» (Early Fusion) است؛ یعنی دادههای کاربر و دادههای آیتم باید از همان لایه اول شبکه عصبی با هم وارد شوند.
در مقیاس شبکههای اجتماعی امروزی، تلفیق زودهنگام فوراً به بنبست میخورد. پلتفرمی با یک میلیارد کاربر فعال و کاتالوگی شامل یک میلیارد پست فعال، یک کوینتیلیون (۱۰ به توان ۱۸) حالت ترکیبی ممکن دارد. اگر کاربری اپلیکیشن را باز کند و سیستم بخواهد بهترین محتوا را بیابد، یک مدل تلفیق زودهنگام باید در همان چند لحظه بارگذاری صفحه، میلیونها بار استنتاج سنگین شبکه عصبی انجام دهد.
هیچ مرکز دادهای روی کره زمین توان پشتیبانی از چنین بار محاسباتی عظیمی را ندارد. سنجش یک کاربر در برابر یک میلیارد پست با استفاده از یک شبکه عصبی عمیق، نیازمند میلیونها ساعت کارکرد پردازندههای گرافیکی (GPU) در هر ثانیه در سراسر جهان خواهد بود. سیستم بیدرنگ زیر بار خود از پا درمیآید و شخصیسازی بلادرنگ عملاً ناممکن میشود.
سازوکار جداسازی در مدل دو برجی
معماری دو برجی این معضل را با دو نیم کردن شبکه عصبی حل میکند. «برج کاربر» تنها به پردازش سیگنالهای رفتاری، اطلاعات جمعیتشناختی و بستر جاری میپردازد و در خروجی خود یک بردار ریاضی چگال یا همان امبدینگ تولید میکند که نشاندهنده وضعیت فعلی کاربر است. این بردار معمولاً آرایهای شامل چند صد عدد اعشاری ممیز شناور است.
در سوی دیگر، «برج آیتم» در انزوای کامل فعالیت میکند و فقط متن، پیکسلهای تصویر و فرادادههای نویسنده پست را پردازش مینماید. این برج نیز برداری مجزا با همان ابعاد دقیق تولید میکند. قانون سفتوسخت این معماری آن است که در طول این فرایند هیچ اطلاعاتی نباید میان دو برج رد و بدل شود.
از آنجا که برج آیتم هرگز دادههای کاربر را نمیبیند، محاسبات آن هیچ وابستگیای به این ندارد که چه کسی درخواست فید داده است. این یعنی پلتفرم نیازی ندارد هنگام باز شدن اپلیکیشن، برج آیتم را اجرا کند؛ بلکه آن را ساعتها یا روزها قبل، درست همان لحظهای که پست روی سرور بارگذاری شده، اجرا کرده است.
این تفکیک، ویژگی معرف «تلفیق دیرهنگام» (Late Fusion) است. بخش سنگین پردازش محتوا — شامل آنالیز فریمهای ویدیو، پردازش متن و کدگذاری متادیتا — بهطور کامل از مسیر بحرانی درخواستهای آنلاین کاربر کنار گذاشته میشود.
پیشمحاسبه و فضای برداری
پیشمحاسبه، موتور محرکه بازیابی مدرن فیدهاست. پلتفرمها کل کاتالوگ میلیونی یا میلیاردی آیتمهای خود را بهصورت آفلاین از داخل برج آیتم عبور میدهند. بردارهای حاصل از آن در یک پایگاه داده بزرگ و تخصصی که ویژه ذخیرهسازی بردارهای چندبعدی است نگهداری میشوند.[4]
هنگامی که فید خود را باز میکنید، سیستم فقط باید یک بار برج کاربر را اجرا کند. این مدل کلیکهای اخیر، تاریخچه جستجو و موقعیت فعلی شما را میگیرد، از شبکه کاربر عبور میدهد و بردار شما را تولید میکند. بدین ترتیب استنتاج سنگین شبکه عصبی در کسری از میلیثانیه به پایان میرسد.
سپس مدل، تلفیق دیرهنگام واقعی را کلید میزند؛ به این صورت که بردار تککاربر شما را برمیدارد و با میلیاردها بردار پیشمحاسبهشده پستها مقایسه میکند. این مقایسه معمولاً یک ضرب داخلی ساده یا شباهت کسینوسی است؛ عملیاتهای هندسی پایهای که تعیین میکنند دو نقطه در یک فضای چندبعدی چقدر به هم نزدیکاند.
اگر بردار کاربر و بردار آیتم یک پست تقریباً همجهت باشند، حاصلضرب داخلی بالا خواهد بود و سیستم نتیجه میگیرد که آن پست به علایق شما نزدیک است. بدین ترتیب کل روند تطبیق به جبر خطی پایه خلاصه میشود.
جستجوی تقریبی نزدیکترین همسایه
با این حال، حتی یک ضرب داخلی ساده هم اگر قرار باشد برای هر درخواست کاربر یک میلیارد بار تکرار شود، بسیار کند خواهد بود. برای دستیابی به تأخیر بلادرنگ، پلتفرمها به الگوریتمهای جستجوی «تقریبی نزدیکترین همسایه» یا همان ANN تکیه میکنند.
الگوریتمهای ANN به جای بررسی تکتک پستها، با بهرهگیری از ساختارهای درختی یا شبکههای گرافی، فضای برداری را بهسرعت پیمایش میکنند. آنها بخشهای عظیمی از محتوای نامربوط را نادیده میگیرند و نزدیکترین تطابقها را به جای زمان خطی، در زمان لگاریتمی پیدا میکنند.
یکی از رایجترین الگوریتمها برای این کار، گرافهای HNSW است. این الگوریتم یک گراف چندلایه میسازد که لایههای بالایی آن اتصالات اندک اما با فواصل طولانی دارند و لایههای پایینی دارای خوشههای متراکم محلی هستند. جستجو ابتدا جهشهای بزرگی در فضا انجام میدهد و سپس برای یافتن تطابقهای دقیق به لایههای پایین فرود میآید.
در تحلیل فنی سال ۲۰۲۵ پلتفرم Tullie.ai اشاره شده است: «با یادگیری بردارهای مجزا برای کاربران و آیتمها، امکان تولید سریع کاندیداها از طریق جستجوی تقریبی نزدیکترین همسایه فراهم میشود؛ امری که برای شخصیسازی بلادرنگ حیاتی است.» این سازوکار، توان محاسباتی مورد نیاز برای هر درخواست کاربر را بیش از شش مرتبه بزرگی کاهش میدهد.[3]
جهش یوتیوب در سال ۲۰۱۶
استاندارد صنعتی این معماری تا حد زیادی با مقاله شاخص تیم تحقیقاتی گوگل در سال ۲۰۱۶ با عنوان «شبکههای عصبی عمیق برای سیستمهای توصیهگر یوتیوب» پایهگذاری شد. پیش از این مقاله، بسیاری از سیستمها به فاکتورگیری ماتریسی متکی بودند که در ادغام متادیتای غنی عملکرد ضعیفی داشت.[1]
تیم مهندسی یوتیوب نشان داد که با استفاده از شبکههای عصبی عمیق برای هر دو بخش کاربر و ویدیو، میتوانند صدها ویژگی ناهمگن را وارد برجها کنند. برج کاربر میتوانست تاریخچه تماشای مخاطب را بهصورت دنبالهای از شناسههای ویدیو، همراه با موقعیت جغرافیایی و توکنهای عبارت جستجو دریافت کند.[1]
نکته حائز اهمیت این بود که آن مقاله قیف دو مرحلهای را که هنوز پس از یک دهه استاندارد این صنعت به شمار میرود، تثبیت کرد. محققان بهصراحت مدل سریع دو برجی برای تولید کاندیدا را از مدل سنگین و غنی از ویژگی برای رتبهبندی نهایی جدا کردند و ثابت نمودند که مقیاسپذیری و دقت باید توسط دو معماری متفاوت مدیریت شوند.[1]
قیف دو مرحلهای سیستم توصیهگر
شرکتهای فناوری هنگام تبلیغ الگوریتمهای خود معمولاً مرز بین «بازیابی» (Retrieval) و «رتبهبندی» (Ranking) را کمرنگ جلوه میدهند. مدل دو برجی تنها فاز اول این فرایند است که تحت عنوان تولید کاندیدا شناخته میشود. وظیفه این مدل باهوش بودن نیست؛ مأموریتش فقط سریع بودن است.
مرحله بازیابی دو برجی کاتالوگ یک میلیاردی پستها را به چند صد کاندیدای معقول کاهش میدهد. از آنجا که این مدل امکان استفاده از ویژگیهای متقابل را ندارد، گزینشهای آن کلی و گاهی معمولی است؛ در واقع ابزاری نهچندان دقیق است که صرفاً برای غربال نویزهای آشکار ساخته شده است.
وقتی این فهرست به چند صد آیتم کاهش یافت، سیستم آنها را به یک مدل رتبهبندی سنگین میسپارد. در این مرحله دوم است که سرانجام استفاده از ویژگیهای متقابل آزاد میشود. رتبهبند چون فقط باید ۵۰۰ پست را ارزیابی کند نه یک میلیارد، میتواند بار پردازشی محاسبات عمیق و پیچیده را به جان بخرد تا در نهایت ۱۰ پستی را که واقعاً میبینید انتخاب کند.
مصالحهها و واقعیت شروع سرد
ممنوع کردن ویژگیهای متقابل در مرحله بازیابی، مصالحهها و تاوانهای سنگینی به همراه دارد. مدل دو برجی در ثبت ترجیحات مشروط و جزئینگر به مشکل میخورد؛ مثلاً کاربری که یک تولیدکننده محتوا را دوست دارد اما تنها زمانی که او درباره موضوع خاصی پست بگذارد.
تحلیل Tullie.ai هشدار میدهد: «عملکرد این سیستم میتواند برای کاربران یا آیتمهای جدیدی که ویژگیها یا تعاملات کمی دارند، افت شدیدی پیدا کند.» از آنجا که مدل دو برجی تماماً متکی بر ضرب داخلی دو بردار تفکیکشده است، بهشدت به کیفیت بردارهای تعبیهشده اولیه حساسیت دارد.[3]
با این حال، این معماری مشکل «شروع سرد» (Cold Start) را برای محتوای تازه به زیبایی حل میکند. وقتی سازندهای ویدیوی کاملاً جدیدی بارگذاری میکند، برج آیتم فوراً بردار آن را صرفاً بر مبنای پیکسلها و متادیتا استخراج مینماید. ویدیو بدون نیاز به بازآموزی مدل، بلافاصله میتواند در فید کاربرانی که بردارشان به همان بخش از فضای برداری اشاره دارد ظاهر شود.
این تحلیل چگونه انجام شد
- روش
- محاسبه پیچیدگی محاسباتی استنتاج تلفیق زودهنگام (دارای ویژگیهای متقابل) در مقایسه با استنتاج تلفیق دیرهنگام (دو برجی) برای یک درخواست فید در مقیاس متعارف شبکههای اجتماعی.
- یافته
- با ممنوع کردن ویژگیهای متقابل، سیستم پیچیدگی استنتاج آنلاین را از گذر کامل N بار شبکه عصبی (که N اندازه کاتالوگ است) به دقیقاً یک بار گذر شبکه عصبی به علاوه یک جستجوی تقریبی نزدیکترین همسایه با مرتبه O(log N) تقلیل میدهد و توان محاسباتی لازم به ازای هر درخواست کاربر را بیش از شش مرتبه بزرگی کاهش میدهد.
- دادههایی که بر پایهٔ آنها کار کردیم
- اندازه مخزن کاندیداها: Millions to billions of items — Tullie.ai
- سقف تأخیر بازیابی هدف: Milliseconds — Google Cloud
- محدودیتهای این تحلیل
- این تحلیل مرحله بازیابی را بهصورت مجزا مدلسازی کرده و مراحل رتبهبندی سنگین بعدی را که از ویژگیهای متقابل روی مخزن بسیار کوچکتری از کاندیداها استفاده میکنند در نظر نگرفته است.
اصطلاحات کلیدی
- مدل دو برجی (Two-Tower Model)
- معماری شبکه عصبی که دادههای کاربر و دادههای محتوا را در دو مسیر کاملاً مجزا تا لحظه محاسبه نهایی پردازش میکند.
- ویژگی متقابل (Cross-Feature)
- نقطهدادهای که ترکیب اطلاعات کاربر و محتوا را میسنجد؛ مانند نرخ کلیک تاریخی یک کاربر مشخص روی پستهای یک نویسنده خاص.
- امبدینگ یا بردار تعبیهشده (Embedding)
- بردار متراکم ریاضی از اعداد ممیز شناور که دادههای پیچیده نظیر سلایق کاربر یا محتوای ویدیو را در یک فضای هندسی بازنمایی میکند.
- تقریبی نزدیکترین همسایه (ANN)
- الگوریتم جستجویی که نزدیکترین بردارهای همسان را در یک پایگاه داده در زمانی لگاریتمی و از طریق نادیده گرفتن خوشههای نامربوط مییابد.
- تلفیق دیرهنگام (Late Fusion)
- رویکردی که در آن انواع مختلف دادهها حین پردازش شبکه عصبی مجزا نگه داشته شده و فقط در انتهای کار ترکیب میشوند.
- مسئله شروع سرد (Cold Start Problem)
- چالشی در سیستمهای توصیهگر برای پیشنهاد محتواهای کاملاً جدید یا ارائه خدمت به کاربران تازهوارد که سابقه تعاملی ندارند.
پرسشهای متداول
چرا سیستمهای توصیهگر نمیتوانند برای کل کاتالوگ از ویژگیهای متقابل استفاده کنند؟
استفاده از ویژگیهای متقابل مستلزم اجرای کامل استنتاج شبکه عصبی برای تکتک ترکیبهای کاربر-آیتم است. در مقیاس میلیاردها کاربر و پست، این کار نیازمند میلیونها ساعت کارکرد GPU در ثانیه است و بارگذاری بلادرنگ را ناممکن میسازد.
پلتفرمها چگونه پستهای کاملاً جدیدی را که هیچ بازدیدی ندارند پیشنهاد میدهند؟
چون برج آیتم تنها ویژگیهای ذاتی پست مانند متن و پیکسلهای تصویر را ارزیابی میکند، میتواند درست در لحظه بارگذاری، بردار تعبیهشده آن را بسازد. در نتیجه پست بلافاصله بر اساس محتوایش به کاربران پیشنهاد میشود و مشکل شروع سرد حل میگردد.
آیا فیدهای شبکههای اجتماعی اصلاً از ویژگیهای متقابل استفاده میکنند؟
بله، اما فقط در مرحله نهایی رتبهبندی. پس از آنکه مدل دو برجی یک میلیارد پست را فیلتر کرده و به چند صد کاندیدا رساند، یک مدل رتبهبندی سنگینتر با بهرهگیری از ویژگیهای متقابل، آن دسته کوچک را بادقت امتیازدهی میکند و ده پست برتر را برمیگزیند.
بررسی عمیق دیدگاهها
مهندسان یادگیری ماشین
مهندسان معماری دو برجی را راهکاری غیرقابلمذاکره برای بقای محاسباتی در مقیاس عظیم میدانند.
برای متخصصانی که سیستمهای بلادرنگ را توسعه میدهند، دقت نظری مدل پس از بودجه زمانی تأخیر قرار میگیرد. مهندسان بر این باورند مدلی که بارگذاری فید آن پنج ثانیه طول بکشد، صرفنظر از اینکه چقدر رفتار کاربر را بینقص پیشبینی کند، محصولی شکستخورده است. جداسازی کامل در مدل دو برجی به آنها اجازه میدهد ۹۹ درصد بار محاسباتی را به پردازش دستهای آفلاین منتقل کنند؛ امری که آن را به تنها معماری عملیاتی برای ترافیک جهانی بدل میسازد.
پژوهشگران بهینهسازی الگوریتم
محققان بر افت دقت پیشبینی ناشی از ممنوعیت ویژگیهای متقابل در مرحله بازیابی دست میگذارند.
پژوهشگران دانشگاهی پیوسته به عدم ظرافت و تقریبی بودن تلفیق دیرهنگام اشاره میکنند. از آنجا که برج کاربر و برج محتوا حین پردازش امکان تبادل داده ندارند، مدل نمیتواند روابط مشروط و دقیق را یاد بگیرد. استدلال محققان این است که این محدودیت، فاز بازیابی را ناچار به اتکای شدید به معیارهای عمومی محبوبیت میکند و محتواهای تخصصی اما بسیار مرتبط پیش از رسیدن به ارزیابی مدل هوشمندتر رتبهبندی، عملاً حذف میشوند.
ارائهدهندگان زیرساخت ابری
تأمینکنندگان ابری این معماری را موتور محرکه رونق سرویسهای تخصصی پایگاه داده برداری میدانند.
برای ارائهدهندگان زیرساختهای ابری، فراگیر شدن مدلهای دو برجی بازاری عظیم برای جستجوی برداری مدیریتشده ایجاد کرده است. آنها تأکید دارند اتکای این معماری به بردارهای تعبیهشده پیشمحاسبهشده، گلوگاه اصلی را از توان پردازشی GPU به پهنای باند حافظه منتقل کرده است. از نگاه آنان، بهینهسازی الگوریتمهای جستجوی تقریبی نزدیکترین همسایه و پایگاههای داده برداری مستقر در حافظه، امروزه بهاندازه خود شبکههای عصبی در عملکرد سیستمهای توصیهگر سرنوشتساز است.
- مهندسان یادگیری ماشین
- تمرکز بر ضرورت محاسباتی و محدودیت بودجه زمانی تأخیر که استفاده از مدلهای دو برجی را اجتنابناپذیر میکند.
- پژوهشگران بهینهسازی الگوریتم
- تمرکز بر محدودیتهای تلفیق دیرهنگام و از دست رفتن دقت پیشبینی با ممنوعیت ویژگیهای متقابل در مرحله بازیابی.
- ارائهدهندگان زیرساخت ابری
- تمرکز بر صرفهجویی سختافزاری و توانایی پاسخ به ترافیک جهانی با تکیه بر پایگاههای داده برداری پیشمحاسبهشده.
دیدگاههایی که این گزارش پوشش نداده
- کاربران نهایی
- تولیدکنندگان محتوا
منابع
[1]Google Researchپژوهشگران بهینهسازی الگوریتمDeep Neural Networks for YouTube Recommendations
مطالعه در Google Research →
[2]Google Cloudمهندسان یادگیری ماشینScaling deep retrieval with TensorFlow Recommenders and Vector Search
مطالعه در Google Cloud →
[3]Tullie.aiپژوهشگران بهینهسازی الگوریتمTwo-Tower Models: The Pros and Cons
مطالعه در Tullie.ai →
[4]Redisمهندسان یادگیری ماشینBuilding a Two Tower Recommendation System with RedisVL
مطالعه در Redis →
[5]تیم سردبیری کوهستانتحلیل تیم سردبیری کوهستان
مطالعه در تیم سردبیری کوهستان →
بیشتر در فناوری
مشاهده همه →نظارت الگوریتمی
چرا الگوریتم «یادداشتهای کاربران» برای انتشار یک راستیآزمایی به اجماع فراحزبی نیاز دارد؟
7 منبع
هویت غیرمتمرکز
چرا حسابهای بلواسکای میتوانند بین سرورها جابهجا شوند اما حسابهای مستودون نه؟
6 منبع
نظارت بر محتوا
نرخ تطبیق ۹۸.۹ درصدی: پایگاههای داده هشینگ ادراکی چگونه محتوای غیرقانونی شناختهشده را شناسایی و حذف میکنند
5 منبع
سلامت دیجیتال
شواهد علمی درباره شبکههای اجتماعی: مقایسه یافتههای مرورهای نظاممند درباره سلامت روان نوجوانان
5 منبع
نظرات
هر زاویه. هر روز.
اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاهها، هر روز و رایگان.





