رفتن به محتوای اصلی
· 7 دقیقه مطالعه· در هوش مصنوعی

انتشار نسخه ۱.۰ پروژه llama.cpp؛ نقطه عطف در توسعه بوم‌سازگان هوش مصنوعی محلی

موتور استنتاج متن‌باز llama.cpp پس از سه سال و نیم توسعه، نسخه ۱.۰.۰ خود را با تضمین پایداری رابط برنامه‌نویسی منتشر کرد. این به‌روزرسانی اجرای هوش مصنوعی روی دستگاه‌های شخصی را برای توسعه‌دهندگان سازمانی تسهیل می‌کند.

به قلم کوروش پاکزاد

این خبر را به اشتراک بگذارید

گوش‌ دهید

تیم توسعه‌دهنده پروژه متن‌باز llama.cpp در تاریخ ۱۳ نوامبر ۲۰۲۶، نسخه ۱.۰.۰ این موتور استنتاج محبوب را به همراه نسخه ۱.۰.۰ کتابخانه تنسور ggml به صورت رسمی منتشر کرد. این انتشار هماهنگ، نشان‌دهنده بلوغ یکی از مهم‌ترین ابزارهای اجرای محلی مدل‌های زبانی بزرگ روی سخت‌افزارهای مصرف‌کننده است و گامی بزرگ در جهت استانداردسازی هوش مصنوعی محسوب می‌شود.[1][3]

پروژه llama.cpp که حدود سه سال و نیم پیش توسط گئورگی گرگانوف پایه‌گذاری شد، امکان اجرای مدل‌های پیچیده هوش مصنوعی را بدون نیاز به پردازنده‌های گرافیکی گران‌قیمت یا زیرساخت‌های ابری فراهم می‌کند. این ابزار به لطف معماری سبک و مستقل خود، اکنون به هسته اصلی صدها برنامه کاربردی هوش مصنوعی در سراسر جهان تبدیل شده است.[1][3]

مهم‌ترین دستاورد نسخه ۱.۰.۰، معرفی و تضمین نسخه‌بندی معنایی (Semantic Versioning) برای رابط برنامه‌نویسی (API) به زبان C است. از این پس، هرگونه تغییر ناسازگار در رابط‌های عمومی با تغییر شماره نسخه اصلی همراه خواهد بود و به‌روزرسانی‌های جزئی تنها برای افزودن ویژگی‌های سازگار، پشتیبانی از مدل‌های جدید و رفع باگ‌ها منتشر می‌شوند.[1][4]

این ثبات رویه، پاسخ مستقیمی به درخواست‌های مکرر توسعه‌دهندگان سازمانی است که برای ساخت محصولات تجاری به یک بستر نرم‌افزاری کاملاً پایدار نیاز داشتند. تغییرات مداوم کدها در نسخه‌های پیشین، یک مانع جدی برای ادغام طولانی‌مدت این کتابخانه در نرم‌افزارهای تجاری محسوب می‌شد که اکنون با این سیاست جدید برطرف شده است.[4][5]

گئورگی گرگانوف در یادداشت انتشار این نسخه بر تعهد تیم به جامعه کاربری تاکید کرده است. او به صراحت می‌گوید: «هر ادغام جدید به معنای وابستگی توسعه‌دهندگان بیشتر به رابط‌های کتابخانه ما است و بنابراین داشتن یک رابط برنامه‌نویسی انعطاف‌پذیر اما پایدار، امری حیاتی برای رشد این زیست‌بوم به شمار می‌رود.»[1][3]

تغییرات فنی و بهینه‌سازی‌های حافظه

در این به‌روزرسانی جامع، ۳۵ تابع منسوخ‌شده از جمله تنظیمات مربوط به گرم‌کردن (warmup) و آستانه یکپارچه‌سازی حافظه از فایل سرآیند اصلی حذف شده‌اند. همچنین رابط برنامه‌نویسی رمزگشایی گمانه‌زن (Speculative Decoding) موسوم به NextN به فایل اصلی llama.h ارتقا یافته است تا دسترسی توسعه‌دهندگان به این قابلیت پیشرفته بسیار ساده‌تر از گذشته شود.[2][3]

بهبودهای کلیدی در عملکرد و پشتیبانی سخت‌افزاری در نسخه ۱.۰.۰

در بخش مدیریت حافظه، نسخه جدید از حافظه پنهان کلید-مقدار (KV Cache) با فرمت استاندارد OCP FP8 پشتیبانی می‌کند. این ویژگی کلیدی به همراه حافظه پنهان میزبان برای وزن‌های مدل‌های ترکیبی از خبرگان (MoE) با قابلیت تنظیم دقیق سهم پردازنده مرکزی، کارایی سیستم را در محیط‌های با منابع محدود به شدت افزایش می‌دهد.[2][3]

بهینه‌سازی‌های عمیق انجام‌شده در عملیات SIMD و استفاده بسیار بهتر از ساختار حافظه پنهان پردازنده‌ها، سرعت استنتاج مدل‌های کوانتیزه‌شده را بین ۱۵ تا ۳۰ درصد در پردازنده‌های مرکزی و گرافیکی بهبود بخشیده است. این پیشرفت‌های ملموس، تجربه کاربری روان‌تری را برای پردازش‌های سنگین و بلادرنگ به ارمغان می‌آورند.[4]

کاهش چشمگیر ردپای حافظه در این نسخه، اجرای مدل‌های زبانی بسیار بزرگتر را روی دستگاه‌های معمولی با تنها ۸ گیگابایت رم ممکن می‌سازد. این دستاورد فنی، دامنه سخت‌افزارهای سازگار برای استقرار محلی هوش مصنوعی را به شکل قابل‌توجهی گسترش داده و موانع ورود کاربران خانگی را از میان برداشته است.[4]

امنیت سرور داخلی این پروژه (llama-server) نیز در نسخه ۱.۰.۰ به شکل چشمگیری ارتقا یافته است. توسعه‌دهندگان آسیب‌پذیری‌های خطرناک مرتبط با جعل درخواست سمت سرور (SSRF)، حملات دور زدن سیاست‌های CORS و تغییر مسیر سامانه نام دامنه (DNS Rebinding) را برطرف کرده‌اند تا استفاده از آن در محیط‌های شبکه‌ای کاملاً ایمن‌تر شود.[2][3]

گسترش پشتیبانی از مدل‌های چندوجهی

پروژه llama.cpp با تکیه بر معماری منعطف خود، اکنون از بیش از ۱۵۰ معماری مختلف مدل‌های هوش مصنوعی پشتیبانی می‌کند. در این نسخه پایدار، سه معماری متنی کاملاً جدید شامل Kimi-K3.1-Pro، Ripple و xing4_0 به فهرست بلندبالای مدل‌های سازگار با این موتور استنتاج قدرتمند اضافه شده‌اند.[2][3]

علاوه بر پردازش متن، قابلیت‌های چندوجهی این موتور نیز به شکل بی‌سابقه‌ای گسترش یافته است. پشتیبانی بومی از مدل تبدیل متن به گفتار drama-3 و همچنین مدل‌های پیشرفته بینایی ماشین نظیر MageVL-Cowork و Kimi-K3.1 نشان‌دهنده حرکت پرشتاب این پروژه به سمت پردازش جامع و همزمان انواع داده‌های صوتی و تصویری است.[2][6]

یک نقطه پایانی جدید با عنوان /v1/audio/speech به معماری سرور اضافه شده است که امکان تعامل صوتی مستقیم و بی‌درنگ را برای برنامه‌های کاربردی فراهم می‌کند. در کنار این قابلیت جذاب، رابط کاربری تحت وب پروژه نیز با امکاناتی نظیر گروه‌بندی گفتگوها و یک ویرایشگر یکپارچه مارک‌داون به طور کامل بازطراحی شده است.[2][3]

این موتور استنتاج برای اجرا روی طیف وسیعی از سخت‌افزارهای مدرن بهینه‌سازی شده است. پشتیبانی از رابط متال (Metal) در پردازنده‌های اپل سیلیکون، کودا (CUDA 12/13) برای کارت‌های انویدیا، ROCm برای گرافیک‌های پیشرفته AMD و دستورالعمل‌های AVX برای پردازنده‌های اینتل، انعطاف‌پذیری بی‌نظیری به این نرم‌افزار می‌بخشد.[2][5]

پشتیبانی یکپارچه از معماری‌های مختلف پردازشی در پس‌کرانه‌های ggml

توزیع گسترده و آینده پروژه

تیم توسعه‌دهنده اصلی یعنی ggml.ai که در فوریه ۲۰۲۶ رسماً به شرکت هاگینگ فیس (Hugging Face) پیوست، توانسته است با حفظ کامل ماهیت متن‌باز پروژه، منابع مالی و فنی بیشتری را جذب کند. این همکاری راهبردی به مقیاس‌پذیری زیرساخت‌های یکپارچه‌سازی مداوم (CI) و تسریع روند توسعه کمک شایانی کرده است.[3][5]

شرکت‌های بزرگ فناوری نظیر انویدیا، ای‌ام‌دی، کوالکام، آرم، آی‌بی‌ام و اینتل اکنون سخت‌افزارهای اختصاصی خود را برای اجرای تست‌های خودکار این پروژه تامین می‌کنند. این همکاری چندجانبه و بی‌سابقه تضمین می‌کند که کدهای جدید پیش از انتشار نهایی، روی تمامی معماری‌های پردازشی موجود در بازار به درستی و با بالاترین بازدهی کار کنند.[3]

برای تسهیل حداکثری دسترسی کاربران، نسخه ۱.۰.۰ از طریق هشت کانال مختلف و استاندارد توزیع می‌شود. توسعه‌دهندگان می‌توانند این کتابخانه حیاتی را از طریق پلتفرم‌هایی نظیر داکر، دبیان، هوم‌برو (Homebrew)، کاند-فورج، مک‌پورتس، وین‌گت و همچنین فرمت XCFramework برای پلتفرم‌های یکپارچه اپل به راحتی دریافت و نصب کنند.[3][6]

مخزن گیت‌هاب این پروژه در زمان انتشار نسخه جدید، مرز ۱۳۵ هزار ستاره را رد کرده است که نشان‌دهنده جامعه کاربری عظیم، وفادار و بسیار فعال آن در سراسر جهان است. این جامعه پویا نقش مهمی در شناسایی سریع باگ‌ها، ارائه راهکارها و افزودن پشتیبانی از مدل‌های جدید ایفا می‌کند.[3]

انتشار این نسخه پایدار، پیامدهای بسیار مهمی برای حفظ حریم خصوصی داده‌ها به همراه دارد. با فراهم شدن امکان اجرای محلی و کاملاً کارآمد مدل‌های قدرتمند، سازمان‌های فعال در حوزه‌های حساس مانند بهداشت و درمان می‌توانند بدون ارسال داده‌های محرمانه بیماران به سرورهای ابری، از مزایای هوش مصنوعی بهره‌مند شوند.[1][4]

کتابخانه پایه ggml نیز که وظیفه خطیر محاسبات جبر تنسوری را بر عهده دارد، همزمان با این موتور به نسخه ۱.۰.۰ ارتقا یافته است. پس‌کرانه‌های (Backends) این کتابخانه اکنون می‌توانند به عنوان کتابخانه‌های پویا کامپایل شده و در زمان اجرا بهینه‌سازی شوند که این امر پشتیبانی از سخت‌افزارهای مختلف را بسیار ساده‌تر می‌کند.[1][5]

با بهینه‌سازی‌های جدید، سخت‌افزارهای مصرف‌کننده اکنون توانایی اجرای مدل‌های زبانی عظیم را دارند.

نقشه راه رسمی سازمان GGML تا پایان سال ۲۰۲۷ منتشر شده است که در آن اولویت‌های کلیدی نظیر پشتیبانی عمیق‌تر از مدل‌های چندوجهی، استنتاج توزیع‌شده در چندین دستگاه مجزا و بهینه‌سازی‌های خاص سخت‌افزاری به چشم می‌خورد. این برنامه‌ریزی دقیق نشان از عزم جدی تیم برای حفظ پیشتازی در این عرصه رقابتی دارد.[4]

توسعه‌دهندگانی که قصد ارتقای نرم‌افزارهای خود به نسخه ۱.۰.۰ را دارند، باید کدهای پیشین خود را به دقت بررسی کنند. از آنجا که توابع منسوخ‌شده کاملاً حذف شده‌اند، برنامه‌هایی که همچنان از رابط‌های قدیمی استفاده می‌کنند، پیش از کامپایل مجدد نیاز به بازنویسی و تطبیق کامل با استانداردهای جدید این نسخه خواهند داشت.[6]

با وجود این تغییرات ساختاری و بنیادین در سطح کدهای پایه، کاربران نهایی که تنها از ابزارهای خط فرمان یا سرور آماده پروژه استفاده می‌کنند، نیازی به تغییرات عمده در جریان کاری خود ندارند. آن‌ها می‌توانند با یک به‌روزرسانی ساده از طریق مدیر بسته‌های سیستم‌عامل خود، از سرعت و پایداری بیشتر لذت ببرند.[6]

آن‌ها می‌توانند با یک به‌روزرسانی ساده از طریق مدیر بسته‌های سیستم‌عامل خود، از سرعت و پایداری بیشتر لذت ببرند.

این نقطه عطف تاریخی به روشنی نشان می‌دهد که رویای هوش مصنوعی غیرمتمرکز دیگر یک ایده آزمایشگاهی نیست. با زیرساخت‌های پایداری مانند llama.cpp، توسعه‌دهندگان مستقل و شرکت‌های کوچک اکنون ابزارهای قدرتمندی در اختیار دارند که تا چند سال پیش تنها در انحصار غول‌های فناوری و شرکت‌های دارای زیرساخت‌های عظیم ابری بود.[4][5]

نکات کلیدی

  • انتشار نسخه ۱.۰.۰ موتور llama.cpp با تضمین پایداری رابط برنامه‌نویسی (API) برای توسعه‌دهندگان تجاری.
  • کاهش چشمگیر مصرف حافظه و امکان اجرای مدل‌های بزرگ روی دستگاه‌هایی با ۸ گیگابایت رم.
  • پشتیبانی از بیش از ۱۵۰ معماری مدل هوش مصنوعی و افزوده شدن قابلیت‌های چندوجهی صوتی و تصویری.
  • ارتقای امنیت سرور داخلی در برابر حملات شبکه‌ای نظیر جعل درخواست سمت سرور (SSRF).

آنچه نمی‌دانیم

  • میزان دقیق استقبال شرکت‌های بزرگ نرم‌افزاری از این نسخه پایدار برای جایگزینی راهکارهای ابری هنوز مشخص نیست.
  • عملکرد مدل‌های چندوجهی جدید روی سخت‌افزارهای بسیار ضعیف در مقیاس وسیع هنوز به طور کامل ارزیابی نشده است.

روند رویداد

  1. سپتامبر ۲۰۲۲

    آغاز توسعه کتابخانه تنسور ggml توسط گئورگی گرگانوف.

  2. مارس ۲۰۲۳

    شروع پروژه llama.cpp برای اجرای مدل‌های متا روی پردازنده‌های معمولی.

  3. فوریه ۲۰۲۶

    پیوستن تیم توسعه‌دهنده ggml.ai به شرکت هاگینگ فیس.

  4. ۱۳ نوامبر ۲۰۲۶

    انتشار رسمی نسخه پایدار ۱.۰.۰ با تضمین نسخه‌بندی معنایی.

توسعه‌دهندگان سازمانی 40%حامیان حریم خصوصی 30%جامعه متن‌باز 30%
توسعه‌دهندگان سازمانی
ثبات رابط برنامه‌نویسی پیش‌شرط اصلی برای سرمایه‌گذاری تجاری روی هوش مصنوعی محلی است.
حامیان حریم خصوصی
اجرای محلی مدل‌ها تنها راه قطعی برای محافظت از داده‌های حساس کاربران است.
جامعه متن‌باز
هوش مصنوعی باید مستقل از انحصار سخت‌افزاری و در دسترس همگان باشد.

دیدگاه‌هایی که این گزارش پوشش نداده

  • تولیدکنندگان سخت‌افزارهای ابری که ممکن است با گسترش پردازش محلی بخشی از بازار خود را از دست بدهند.

منابع

پوشش منابع

6 منبع

3 دیدگاه شناسایی‌شده

توسعه‌دهندگان سازمانی 40%حامیان حریم خصوصی 30%جامعه متن‌باز 30%
  1. [1]Hugging Faceحامیان حریم خصوصی

    llama.cpp v1.0.0 - LLM inference in C/C++

    مطالعه در Hugging Face →
  2. [2]GitHubجامعه متن‌باز

    Release llama.cpp v1.0.0

    مطالعه در GitHub →
  3. [3]MLQ.aiحامیان حریم خصوصی

    llama.cpp reaches version 1.0 and promises a stable API for local AI apps

    مطالعه در MLQ.ai →
  4. [4]Emergentتوسعه‌دهندگان سازمانی

    llama.cpp v1.0.0 launches with stable APIs and breaking changes finalized

    مطالعه در Emergent →
  5. [5]Superpower Dailyتوسعه‌دهندگان سازمانی

    Developers building apps on llama.cpp now have a clearer promise

    مطالعه در Superpower Daily →
  6. [6]ExplainXجامعه متن‌باز

    llama.cpp v1.0.0: What a Stable libllama and libggml Mean for Local AI

    مطالعه در ExplainX →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار هوش مصنوعی با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.