رفتن به محتوای اصلی
· 4 دقیقه مطالعه· در هوش مصنوعی

رونمایی انویدیا از سری مدل‌های زبانی نموترون ۳.۵ برای ارتقای عامل‌های هوش مصنوعی

انویدیا با معرفی خانواده جدید مدل‌های زبانی نموترون ۳.۵، شامل نسخه‌های قدرتمند چندوجهی و مدل‌های بهینه‌شده برای پردازش محلی، گام بلندی در بهبود توانایی عامل‌های هوش مصنوعی برای بازیابی اطلاعات و استدلال پیچیده برداشت.

به قلم کوروش پاکزاد

این خبر را به اشتراک بگذارید

گوش‌ دهید

شرکت انویدیا در اواسط اکتبر ۲۰۲۶ از خانواده جدید مدل‌های زبانی خود با نام «نموترون ۳.۵» (Nemotron 3.5) رونمایی کرد. این مجموعه با هدف ارتقای توانمندی عامل‌های هوش مصنوعی طراحی شده است و شامل نسخه‌های قدرتمند چندوجهی و مدل‌های بهینه‌سازی‌شده برای پردازش‌های محلی است.[1][2]

این رونمایی نشان‌دهنده تغییر تمرکز صنعت از چت‌بات‌های ساده به سمت سیستم‌های خودمختار است. عامل‌های هوش مصنوعی مدرن نیازمند موتورهای پردازشی کارآمدی هستند که بتوانند اطلاعات را از منابع مختلف بازیابی کرده و گردش‌کارهای پیچیده سازمانی را به صورت مستقل اجرا کنند.[1]

پرچمدار این خانواده جدید، مدل چندوجهی Nemotron 3.5 Super VL است که با ۱۲۰ میلیارد پارامتر توسعه یافته است. این مدل قدرتمند توانایی درک همزمان متن، تصویر، ویدیو و اسناد پیچیده را دارد و به طور خاص برای استدلال در وظایف عاملی کالیبره شده است.[1][4]

یکی از چالش‌های اصلی در توسعه عامل‌های هوشمند، مدیریت حجم عظیم داده‌های ورودی است. انویدیا برای حل این مشکل، پشتیبانی از پنجره زمینه بسیار طولانی تا سقف یک میلیون توکن را در این مدل‌ها تعبیه کرده است که امکان تحلیل همزمان ده‌ها سند را فراهم می‌کند.[4][5]

معماری ترکیبی و کارایی بالا

مدل Super VL از معماری پیشرفته «ترکیب خبرگان» (Mixture-of-Experts) بهره می‌برد. در این ساختار هیبریدی که ترکیبی از معماری‌های Mamba و Transformer است، از مجموع ۱۲۰ میلیارد پارامتر، تنها ۱۲ میلیارد پارامتر برای پردازش هر توکن فعال می‌شود.[4][5]

معماری ترکیب خبرگان (MoE) در مدل Super VL، تنها بخش کوچکی از پارامترها را برای هر توکن فعال می‌کند.

این فعال‌سازی انتخابی پارامترها باعث می‌شود تا مصرف منابع محاسباتی به شدت کاهش یابد. بر اساس گزارش‌های فنی انویدیا، این معماری به مدل Super VL اجازه می‌دهد تا در پردازش وظایف عاملی، تا پنج برابر توان عملیاتی بالاتری نسبت به مدل‌های متن‌باز هم‌رده خود ارائه دهد.[1][5]

سرعت بالا در کنار دقت استدلال، این مدل را به ابزاری ایده‌آل برای محیط‌های سازمانی تبدیل کرده است. عامل‌های هوش مصنوعی اکنون می‌توانند با سرعت بی‌سابقه‌ای سیاست‌های داخلی شرکت‌ها را مطالعه کنند، نمودارها را تفسیر کرده و تصمیمات مبتنی بر داده اتخاذ نمایند.[1][2]

توانایی درک بصری در مدل Super VL به عامل‌ها اجازه می‌دهد تا فراتر از متن عمل کنند. برای مثال، یک عامل پشتیبانی مشتری می‌تواند اسکرین‌شات‌های ارسال شده توسط کاربران را تحلیل کرده و با تطبیق آن‌ها با مستندات فنی شرکت، راهنمایی‌های دقیقی ارائه دهد.[1][2]

پردازش محلی با مدل‌های فشرده

برای کاربرانی که نیازمند اجرای هوش مصنوعی در سخت‌افزارهای محلی هستند، انویدیا مدل Nemotron 3.5 Bolt را عرضه کرده است. این مدل با ۷۴ میلیارد پارامتر کل و ۹ میلیارد پارامتر فعال، به طور ویژه برای ایستگاه‌های کاری و دستگاه‌های لبه بهینه‌سازی شده است.[3][5]

مدل Bolt با استفاده از تکنیک‌های پیشرفته فشرده‌سازی و کوانتیزاسیون ۲-بیتی، به گونه‌ای تقطیر شده است که به راحتی در ۲۴ گیگابایت حافظه کارت‌های گرافیک سری RTX جای می‌گیرد. این دستاورد به کسب‌وکارها اجازه می‌دهد تا پردازش‌های سنگین را به صورت محلی انجام دهند.[3][5]

مقایسه اندازه مدل‌های مختلف خانواده نموترون ۳.۵ و میزان پارامترهای فعال آن‌ها.

با وجود فشرده‌سازی شدید، مدل Bolt کارایی خود را حفظ کرده است. این مدل قادر است به سرعت رمزگشایی حداقل ۸۰ توکن بر ثانیه دست یابد که تعادلی بی‌نظیر میان هوشمندی و سرعت را برای دستگاه‌های محلی و دستیارهای صوتی سریع فراهم می‌آورد.[3]

علاوه بر نسخه‌های یاد شده، انویدیا مدل Nemotron 3.5 Lightning را نیز معرفی کرده است. این مدل متنی با ۳۰ میلیارد پارامتر کل و تنها ۳ میلیارد پارامتر فعال، به عنوان یک موتور پردازشی سبک برای اجرای وظایف پرحجم و تکراری طراحی شده است.[5]

کاربردهای سازمانی و وزن‌های باز

توسعه‌دهندگان می‌توانند از طریق پلتفرم‌هایی مانند هاگینگ‌فیس به وزن‌های باز این مدل‌ها دسترسی داشته باشند. انتشار عمومی کدهای پایه و داده‌های آموزشی، شفافیت بی‌سابقه‌ای را در نحوه عملکرد این سیستم‌های پیچیده به ارمغان آورده است.[3]

رویکرد متن‌باز انویدیا به سازمان‌ها اجازه می‌دهد تا این مدل‌ها را با استفاده از ابزارهایی مانند Nvidia NeMo آموزش مجدد دهند. این قابلیت برای صنایعی مانند بهداشت و درمان که با داده‌های اختصاصی سروکار دارند، بسیار حیاتی است.[1][2]

گزارش فنی انویدیا تأکید می‌کند که این خانواده از مدل‌ها بالاترین کارایی در کلاس خود را برای گردش‌کارهای طولانی‌مدت عاملی ارائه می‌دهند. این ادعا نشان می‌دهد که هدف اصلی، کاهش هزینه‌های استنتاج در اجرای مداوم سیستم‌های هوش مصنوعی است.[1][5]

مدل‌های فشرده‌ای مانند Bolt به کسب‌وکارها اجازه می‌دهند تا پردازش‌های سنگین هوش مصنوعی را به صورت محلی انجام دهند.

پشتیبانی بومی از رمزگشایی گمانه‌زنی (Speculative Decoding) یکی دیگر از نوآوری‌های فنی در سری نموترون ۳.۵ است. این تکنیک با پیش‌بینی چندین توکن به صورت همزمان، تأخیر در پاسخ‌گویی را به حداقل می‌رساند و تجربه کاربری روان‌تری را رقم می‌زند.[4][5]

استفاده از این مدل‌ها در محیط‌های برنامه‌نویسی و توسعه نرم‌افزار نیز نتایج چشمگیری داشته است. عامل‌های هوش مصنوعی مجهز به نموترون ۳.۵ می‌توانند کدهای نوشته شده را بررسی کنند، خطاهای پیچیده را بیابند و راه‌حل‌های بهینه‌ای را پیشنهاد دهند.[1][4]

حفظ حریم خصوصی داده‌ها یکی از دغدغه‌های اصلی شرکت‌های بزرگ است. اجرای محلی مدل‌هایی مانند Bolt بر روی سخت‌افزارهای داخلی، این اطمینان را به مدیران می‌دهد که اطلاعات حساس سازمانی هرگز از شبکه داخلی شرکت خارج نمی‌شوند.[3]

با بلوغ روزافزون سیستم‌های خودمختار، نیاز به مدل‌های تخصصی که بتوانند استدلال‌های چندمرحله‌ای را با هزینه کمتر انجام دهند، بیشتر احساس می‌شود. خانواده نموترون ۳.۵ انویدیا، زیرساخت نرم‌افزاری لازم را برای گذار به عامل‌های عملیاتی و مستقل در دنیای واقعی فراهم کرده است.[1][2]

نکات کلیدی

  • انویدیا خانواده مدل‌های زبانی نموترون ۳.۵ را با تمرکز بر ارتقای عامل‌های هوش مصنوعی خودمختار منتشر کرد.
  • مدل پرچمدار Super VL با ۱۲۰ میلیارد پارامتر، از معماری ترکیب خبرگان برای کاهش چشمگیر مصرف منابع استفاده می‌کند.
  • پشتیبانی از پنجره زمینه یک میلیون توکنی، امکان تحلیل همزمان متن، تصویر، ویدیو و اسناد طولانی را فراهم می‌آورد.
  • مدل فشرده Bolt با قابلیت اجرا روی حافظه‌های ۲۴ گیگابایتی، پردازش‌های پیچیده را به سخت‌افزارهای محلی آورده است.

آنچه نمی‌دانیم

  • هنوز مشخص نیست که عملکرد این مدل‌ها در محیط‌های عملیاتی بسیار پیچیده و بدون نظارت انسانی تا چه حد قابل اتکا خواهد بود.
  • با وجود انتشار وزن‌های باز، ترکیب دقیق داده‌های آموزشی استفاده شده توسط انویدیا به طور کامل شفاف‌سازی نشده است.
  • تأثیر بلندمدت استفاده گسترده از مدل‌های محلی بر بازار خدمات ابری هوش مصنوعی هنوز در هاله‌ای از ابهام قرار دارد.
  • پوشش رسانه‌ای مستقل درباره عملکرد واقعی این مدل‌ها در حال حاضر محدود است و بیشتر اطلاعات موجود بر اساس گزارش‌های فنی انویدیا بنا شده است.
توسعه‌دهندگان و پژوهشگران هوش مصنوعی 50%کسب‌وکارهای سازمانی 50%
توسعه‌دهندگان و پژوهشگران هوش مصنوعی
این گروه بر اهمیت معماری‌های کارآمد و پنجره زمینه طولانی در پیشبرد مرزهای هوش مصنوعی تأکید دارند.
کسب‌وکارهای سازمانی
مدیران فناوری اطلاعات، کاهش هزینه‌های استنتاج و امکان پردازش محلی داده‌ها را بزرگترین دستاورد این مدل‌ها می‌دانند.

دیدگاه‌هایی که این گزارش پوشش نداده

  • رقیبان تجاری و توسعه‌دهندگان مدل‌های بسته (مانند OpenAI و Anthropic)
  • تحلیلگران مستقل بنچمارک‌های هوش مصنوعی

منابع

پوشش منابع

5 منبع

2 دیدگاه شناسایی‌شده

توسعه‌دهندگان و پژوهشگران هوش مصنوعی 50%کسب‌وکارهای سازمانی 50%
  1. [1]Nvidia Developer Blogتوسعه‌دهندگان و پژوهشگران هوش مصنوعی

    NVIDIA Nemotron 3.5 Super VL Powers Specialized Agents With Multimodal Reasoning

    مطالعه در Nvidia Developer Blog →
  2. [2]Nvidia Blogکسب‌وکارهای سازمانی

    Nemotron 3.5 Super VL

    مطالعه در Nvidia Blog →
  3. [3]Hugging Faceتوسعه‌دهندگان و پژوهشگران هوش مصنوعی

    NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB

    مطالعه در Hugging Face →
  4. [4]Nvidia Buildکسب‌وکارهای سازمانی

    Nemotron 3.5 Super VL 120B-A12B

    مطالعه در Nvidia Build →
  5. [5]Nvidia Researchتوسعه‌دهندگان و پژوهشگران هوش مصنوعی

    NVIDIA Nemotron 3.5 Super and Lightning Technical Report

    مطالعه در Nvidia Research →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار هوش مصنوعی با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.