انتشار مدل متن‌باز Ternary Bonsai 2: فشرده‌سازی بی‌سابقه مدل ۲۷ میلیارد پارامتری به ۵.۹ گیگابایت

تصور کنید یک مدل هوش مصنوعی با ۲۷ میلیارد پارامتر که در حالت عادی به ۵۴ گیگابایت حافظه و سخت‌افزارهای گران‌قیمت سرور نیاز دارد، به قدری فشرده شود که تنها ۵.۹ گیگابایت فضا اشغال کند. این دقیقاً همان مقیاسی است که شرکت PrismML با انتشار مدل متن‌باز Ternary Bonsai 2 27B در اواسط سپتامبر ۲۰۲۶ به آن دست یافته است. این مدل که بر پایه معماری قدرتمند Qwen3.8-27B ساخته شده، مرزهای اجرای محلی هوش مصنوعی را جابجا کرده و قدرت پردازشی سطح دیتاسنترها را به لپ‌تاپ‌های روزمره آورده است.[1][2]

برای درک این جهش فناوری، باید به مکانیسم زیربنایی آن یعنی «کوانتیزاسیون سه‌گانه» (Ternary Quantization) نگاه کرد. در شبکه‌های عصبی سنتی، وزن‌ها معمولاً با دقت ۱۶ بیتی (FP16) ذخیره می‌شوند که به هر پارامتر اجازه می‌دهد هزاران مقدار مختلف را به خود بگیرد. اما در Bonsai 2، هر وزن مجبور است تنها یکی از سه حالت ممکن را داشته باشد: منفی یک، صفر، یا مثبت یک. این محدودیت شدید باعث می‌شود حجم اطلاعات هر وزن به حدود ۱.۵۸ بیت کاهش یابد و در نتیجه اندازه کلی مدل به شکل چشمگیری کوچک شود.[3]

با این حال، فشرده‌سازی به این شدت معمولاً به فروپاشی توانایی استدلال مدل منجر می‌شود. PrismML برای حل این مشکل از یک ترفند ریاضی هوشمندانه استفاده کرده است. آن‌ها هر ۱۲۸ وزن سه‌گانه را در یک گروه قرار داده و یک ضریب مقیاس‌بندی ۱۶ بیتی مشترک به آن‌ها اختصاص داده‌اند. علاوه بر این، پیش از اعمال مقادیر سه‌گانه، از یک چرخش ریاضی به نام «هادامارد» (Hadamard Rotation) در بلوک‌های ۱۰۲۴ تایی استفاده می‌شود تا بار اطلاعاتی به طور یکنواخت در سراسر شبکه توزیع شود و از افت کیفیت جلوگیری گردد.[3][4]

نتیجه این مهندسی دقیق، حفظ ۹۸.۲ درصد از عملکرد مدل اصلی در بنچمارک‌های استاندارد است. در حالی که مدل‌های فشرده‌شده قبلی در وظایف پیچیده‌ای مانند برنامه‌نویسی و ریاضیات دچار افت شدید می‌شدند، Bonsai 2 27B توانسته است امتیازات خود را در این حوزه‌ها تقریباً هم‌سطح با نسخه ۵۴ گیگابایتی نگه دارد. این مدل در ۱۴ آزمون مختلف استدلالی، میانگین امتیاز ۸۴.۷۸ را کسب کرده است که نشان‌دهنده پایداری شگفت‌انگیز آن در پردازش‌های عمیق است.[1][2][3]

فراتر از متن، این مدل یک سیستم چندوجهی (Multimodal) است که می‌تواند تصاویر و اسناد بصری را نیز درک و تحلیل کند. برج بینایی (Vision Tower) این مدل به صورت جداگانه با حجم کمتر از یک گیگابایت بارگذاری می‌شود و به کاربر اجازه می‌دهد عکس‌ها، نمودارها و فایل‌های PDF را مستقیماً به مدل وارد کرده و درباره آن‌ها سوال بپرسد. این قابلیت، کاربردهای مدل را در تحلیل داده‌های محلی به شدت گسترش می‌دهد.[1][4]

یکی دیگر از ویژگی‌های برجسته Bonsai 2، پشتیبانی از پنجره زمینه (Context Window) عظیم ۲۶۲ هزار توکنی است. این بدان معناست که کاربر می‌تواند کل یک پایگاه کد برنامه‌نویسی، یک قرارداد حقوقی طولانی، یا ده‌ها مقاله علمی را به صورت یکجا وارد مدل کند. حفظ چنین ظرفیتی در یک مدل فشرده محلی، به لطف استفاده از معماری توجه ترکیبی (Hybrid-Attention) در ستون فقرات مدل امکان‌پذیر شده است که مصرف حافظه را در پردازش متن‌های طولانی بهینه می‌کند.[2][3]

در دنیای واقعی، سرعت اجرای این مدل روی سخت‌افزارهای مصرفی خیره‌کننده است. بر اساس گزارش‌ها، Bonsai 2 می‌تواند روی یک کارت گرافیک NVIDIA RTX 5090 تا ۱۴۳ توکن در ثانیه و روی پردازنده لپ‌تاپ Apple M5 Max تا ۴۷ توکن در ثانیه تولید کند. این سرعت بالا، همراه با قابلیت‌های فراخوانی ابزار (Tool Calling)، آن را به گزینه‌ای ایده‌آل برای اجرای دستیارهای برنامه‌نویسی خودکار و گردش‌کارهای چندمرحله‌ای تبدیل کرده است.[2][4]

انتشار این مدل تحت مجوز کاملاً باز Apache 2.0، یک پیروزی بزرگ برای جامعه متن‌باز محسوب می‌شود. توسعه‌دهندگان و شرکت‌ها اکنون می‌توانند بدون پرداخت هزینه‌های اشتراک API یا نگرانی درباره حریم خصوصی داده‌های خود در سرورهای ابری، از یک هوش مصنوعی پیشرفته استفاده تجاری کنند. Ternary Bonsai 2 نشان داد که آینده هوش مصنوعی لزوماً در انحصار ابررایانه‌های غول‌پیکر نیست، بلکه می‌تواند در کوله‌پشتی هر کاربری جای بگیرد.[1][2]