رفتن به محتوای اصلی
· 6 دقیقه مطالعه· در هوش مصنوعی

رونمایی از BotPsy؛ دستیار هوش مصنوعی عاملی کم‌حجم برای اجرا روی دستگاه بدون نیاز به اینترنت

شرکت Tether AI Research از مدل زبانی کوچک BotPsy با ۸۰۰ میلیون پارامتر رونمایی کرد که برای اجرای محلی و فراخوانی ابزارها بهینه‌سازی شده است. این مدل با حذف نیاز به پردازش ابری، حریم خصوصی کاربران را حفظ کرده و عملکردی فراتر از مدل‌های بسیار بزرگ‌تر ارائه می‌دهد.

به قلم ندا وزیری

این خبر را به اشتراک بگذارید

گوش‌ دهید

در دنیای هوش مصنوعی که همواره به سمت مدل‌های غول‌پیکر و نیازمند به پردازش ابری حرکت می‌کند، معرفی یک مدل کوچک و کارآمد می‌تواند قواعد بازی را تغییر دهد. شرکت Tether AI Research به تازگی از مدل زبانی جدیدی به نام BotPsy رونمایی کرده است. این مدل تنها با ۸۰۰ میلیون پارامتر، توانایی‌های شگفت‌انگیزی در اجرای محلی دارد.[1][4]

این دستیار هوشمند عاملی (Agentic AI) به طور خاص برای اجرا روی دستگاه‌های کاربران طراحی شده است. هدف اصلی از توسعه این مدل، قطع وابستگی به اینترنت و سرورهای ابری برای انجام وظایف روزمره است. با این رویکرد، کاربران می‌توانند بدون نگرانی از هزینه‌های پردازش ابری، از قابلیت‌های هوش مصنوعی بهره‌مند شوند.[1][4]

مدل BotPsy بر پایه معماری Qwen3.5-0.8B ساخته شده و برای فراخوانی ابزارها (Function Calling) و مدیریت جریان‌های کاری عاملی، پس‌آموزش (Post-training) دیده است. این بهینه‌سازی دقیق باعث شده تا این مدل بتواند به عنوان یک دستیار شخصی واقعی عمل کند. توانایی ارتباط با ابزارهای محلی، آن را از سایر مدل‌های مشابه متمایز می‌کند.[1]

یکی از بزرگ‌ترین مزایای اجرای محلی، حفظ حریم خصوصی کاربران است. وقتی یک دستیار هوشمند به تقویم، ایمیل، فایل‌های شخصی و پیام‌های شما دسترسی پیدا می‌کند، ارسال این داده‌ها به فضای ابری خطرات امنیتی زیادی به همراه دارد. با BotPsy، تمام پردازش‌ها درون خود دستگاه انجام می‌شود و هیچ داده‌ای به بیرون درز نمی‌کند.[1][4]

غلبه بر مدل‌های بزرگ‌تر در آزمون‌های استاندارد

با وجود اندازه بسیار کوچک، عملکرد BotPsy در آزمون‌های استاندارد خیره‌کننده است. بر اساس داده‌های منتشر شده توسط پلتفرم Hugging Face، این مدل در پنج مورد از شش آزمون استفاده از ابزار، توانسته مدل Qwen3.5-2B-Think را شکست دهد. این در حالی است که مدل رقیب، ۲.۵ برابر بزرگ‌تر از BotPsy است.[1]

در بنچمارک‌های فراخوانی ابزار، BotPsy به میانگین امتیاز ۴۵.۰ دست یافته است. برای درک بهتر این پیشرفت، باید بدانید که مدل پایه آن تنها امتیاز ۲۴.۷ را کسب کرده بود. این جهش چشمگیر نشان می‌دهد که آموزش تخصصی برای یک وظیفه خاص، می‌تواند کمبود پارامترها را تا حد زیادی جبران کند.[1][4]

مقایسه میانگین امتیازات BotPsy در برابر مدل پایه در آزمون‌های فراخوانی ابزار.

این دستیار برای مدیریت طیف وسیعی از دامنه‌ها آموزش دیده است. از جستجوی وب و تحقیقات گرفته تا برنامه‌ریزی سفر، تجارت، عملیات تجاری، کنترل دستگاه‌ها و مدیریت فایل‌ها، همگی در دایره توانمندی‌های آن قرار دارند. این تنوع، BotPsy را به ابزاری همه‌کاره برای توسعه‌دهندگان تبدیل می‌کند.[1]

با این حال، انتقال بار پردازشی از فضای ابری به دستگاه کاربر، چالش‌های خاص خود را دارد. اگرچه هزینه تولید توکن (Token Cost) به صفر می‌رسد، اما فشار پردازشی به حافظه رم و باتری دستگاه منتقل می‌شود. بنابراین، بهینه‌سازی مصرف انرژی در این مدل‌ها از اهمیت بالایی برخوردار است.[2][4]

پشتیبانی چندزبانه و چالش‌های افت عملکرد

در زمینه پشتیبانی از زبان‌های مختلف، BotPsy عملکرد قابل قبولی در آزمون Multi-IF از خود نشان داده است. این آزمون توانایی مدل در پیروی از دستورالعمل‌ها در هشت زبان مختلف را می‌سنجد. زبان‌های انگلیسی، اسپانیایی، چینی، فرانسوی، ایتالیایی و پرتغالی با کسب امتیازاتی بین ۷۲ تا ۸۰، در دسته زبان‌های قدرتمند این مدل قرار دارند.[1]

با این وجود، عملکرد مدل در مکالمات طولانی و چندمرحله‌ای با افت مواجه می‌شود. در آزمون‌های چندمرحله‌ای، امتیاز BotPsy در نوبت اول ۸۴.۳ بود که بالاترین امتیاز در میان پنج مدل رقیب محسوب می‌شد. اما این امتیاز در نوبت سوم به ۵۱.۰ کاهش یافت که نشان‌دهنده پدیده فراموشی در مکالمات طولانی است.[1][4]

همچنین، پشتیبانی از برخی زبان‌ها هنوز جای کار دارد. به عنوان مثال، زبان هندی با امتیاز ۲۴.۵ و زبان روسی با امتیاز ۵۷.۶، عملکرد بسیار ضعیف‌تری نسبت به زبان‌های اصلی داشته‌اند. توسعه‌دهندگانی که قصد دارند محصولات خود را برای این بازارها عرضه کنند، باید این محدودیت‌ها را در نظر بگیرند.[1]

برای حل مشکل افت عملکرد در مکالمات طولانی، توسعه‌دهندگان باید مکانیزم‌های حافظه خارجی را پیاده‌سازی کنند. از آنجایی که مدل به صورت محلی اجرا می‌شود، ادغام آن با پایگاه‌های داده برداری (Vector Databases) روی دستگاه، می‌تواند به حفظ زمینه مکالمه کمک شایانی کند.[4]

عملکرد مدل BotPsy در پشتیبانی از زبان‌های مختلف بر اساس آزمون Multi-IF.

فرمت‌های انتشار و مجوزهای متن‌باز

شرکت سازنده این مدل را تحت مجوز متن‌باز Apache 2.0 منتشر کرده است. این مجوز به محققان و توسعه‌دهندگان اجازه می‌دهد تا بدون محدودیت‌های تجاری سخت‌گیرانه، از این مدل در پروژه‌های خود استفاده کنند. این رویکرد، گامی مهم در جهت دموکراتیزه کردن هوش مصنوعی عاملی محسوب می‌شود.[1][2]

برای اجرای روان روی دستگاه‌های مختلف، BotPsy در سه سطح دقت متفاوت عرضه شده است. نسخه‌های bf16، Q8 و Q4 به توسعه‌دهندگان حق انتخاب می‌دهند تا بر اساس توان سخت‌افزاری دستگاه هدف، نسخه مناسب را انتخاب کنند. نسخه Q4 برای اجرا روی گوشی‌های هوشمند میان‌رده بسیار ایده‌آل است.[1]

این مدل در قالب فایل‌های safetensors در پلتفرم Hugging Face در دسترس قرار گرفته است. علاوه بر این، نسخه‌های GGUF آن نیز برای استفاده در کیت توسعه نرم‌افزار QVAC و موتور محبوب llama.cpp بهینه‌سازی شده‌اند. این تنوع فرمت، فرآیند ادغام مدل در اپلیکیشن‌های موبایل و دسکتاپ را بسیار ساده می‌کند.[1][4]

استفاده از موتور llama.cpp به توسعه‌دهندگان اجازه می‌دهد تا از پردازنده‌های گرافیکی یکپارچه (Integrated GPUs) در گوشی‌های هوشمند نهایت استفاده را ببرند. این امر نه تنها سرعت پاسخگویی مدل را افزایش می‌دهد، بلکه مصرف باتری را نیز بهینه‌تر می‌کند که برای یک دستیار همیشه فعال، حیاتی است.[1][4]

هشدارهای امنیتی و خطوط قرمز استفاده

با وجود تمام این قابلیت‌ها، تیم سازنده هشدارهای بسیار صریحی درباره محدودیت‌های BotPsy داده است. این مدل به هیچ وجه برای تصمیم‌گیری‌های پرخطر، تراکنش‌های مالی، یا پردازش داده‌های حساس پزشکی طراحی نشده است. توسعه‌دهندگان باید از به کارگیری آن در حوزه‌هایی که خطای هوش مصنوعی عواقب جبران‌ناپذیری دارد، خودداری کنند.[1][4]

نتایج آزمون τ³-banking به خوبی دلیل این هشدارها را روشن می‌کند. در این بنچمارک که توانایی مدل در انجام عملیات بانکی را می‌سنجد، هیچ‌یک از مدل‌های این رده نتوانستند امتیازی بالاتر از ۵ کسب کنند و BotPsy نیز روی عدد ۴.۱ متوقف شد. این اعداد نشان‌دهنده عدم بلوغ مدل‌های کوچک برای وظایف حساس هستند.[1]

تصویرسازی: توسعه‌دهندگان اکنون می‌توانند دستیارهای هوشمند را با هزینه صفر در محصولات خود ادغام کنند.

توصیه اصلی کارشناسان این است که از این مدل تنها در وظایفی استفاده شود که خطای آن‌ها ارزان و قابل بازگشت باشد. به عنوان مثال، تنظیم یک جلسه در تقویم یا جستجوی یک فایل متنی، وظایفی هستند که در صورت بروز خطا، آسیب جدی به کاربر وارد نمی‌کنند.[1][4]

همچنین، توسعه‌دهندگان باید نرخ توهم (Hallucination Rate) ابزارها را به دقت زیر نظر داشته باشند. اگر مدل را برای نیازهای خاص خود فاین‌تیون (Fine-tune) می‌کنید، باید مراقب پدیده فراموشی فاجعه‌بار (Catastrophic Forgetting) باشید. در این حالت، مدل ممکن است مهارت‌های اولیه خود در فراخوانی ابزارها را از دست بدهد.[1][3]

تغییر پارادایم در توسعه محصولات هوشمند

برای بنیان‌گذاران استارتاپ‌ها، سوال اصلی این نیست که آیا نمودارهای بنچمارک زیبا هستند یا خیر. سوال این است که آیا یک مدل ۸۰۰ میلیون پارامتری می‌تواند بار یک محصول واقعی را به دوش بکشد؟ پاسخ کوتاه این است: بله، اما تنها برای وظایف مشخص و با سطح دشواری متوسط.[1][4]

مدل BotPsy با مدل‌های مرزی (Frontier Models) مانند GPT-4 یا Claude رقابت نمی‌کند و چنین ادعایی نیز ندارد. این مدل با این ایده رقابت می‌کند که هر فراخوانی ساده ابزار، نیازمند ارسال درخواست به سرورهای ابری و پرداخت هزینه است. این یک تغییر نگرش اساسی در معماری نرم‌افزار است.[1][2]

با حذف هزینه‌های استنتاج (Inference Costs)، کسب‌وکارهای کوچک می‌توانند دستیارهای هوشمند را به صورت رایگان در محصولات خود ادغام کنند. این امر به ویژه برای استارتاپ‌هایی که در بازارهای نوظهور فعالیت می‌کنند و با محدودیت‌های بودجه‌ای مواجه هستند، یک مزیت رقابتی بزرگ محسوب می‌شود.[2][4]

با حذف هزینه‌های استنتاج (Inference Costs)، کسب‌وکارهای کوچک می‌توانند دستیارهای هوشمند را به صورت رایگان در محصولات خود ادغام کنند.

در نهایت، BotPsy نشان می‌دهد که آینده هوش مصنوعی تنها در دست مدل‌های تریلیون پارامتری نیست. مدل‌های کوچک، تخصصی و محلی، نقش بسیار مهمی در حفظ حریم خصوصی و کاهش هزینه‌ها ایفا خواهند کرد. مسئولیت انتخاب ابزار مناسب برای هر وظیفه، اکنون بیش از پیش بر عهده توسعه‌دهندگان است.[1][4]

نکات کلیدی

  • مدل BotPsy با ۸۰۰ میلیون پارامتر، امکان اجرای دستیارهای هوشمند عاملی را به صورت کاملاً محلی و بدون نیاز به اینترنت فراهم می‌کند.
  • این مدل در آزمون‌های استفاده از ابزار، عملکردی بهتر از مدل‌های ۲.۵ برابر بزرگ‌تر از خود نشان داده و به میانگین امتیاز ۴۵.۰ دست یافته است.
  • پردازش محلی داده‌ها، حریم خصوصی کاربران را در دسترسی به ایمیل‌ها، تقویم و فایل‌های شخصی به طور کامل تضمین می‌کند.
  • تیم سازنده هشدار داده است که این مدل نباید برای تصمیم‌گیری‌های پرخطر، تراکنش‌های مالی یا پردازش داده‌های حساس پزشکی استفاده شود.

آنچه نمی‌دانیم

  • هنوز مشخص نیست که مصرف باتری در استفاده مداوم از این مدل روی گوشی‌های هوشمند میان‌رده تا چه حد بهینه خواهد بود.
  • میزان دقیق آسیب‌پذیری این مدل‌های کوچک در برابر حملات تزریق پرامپت (Prompt Injection) در محیط‌های محلی به طور کامل ارزیابی نشده است.
توسعه‌دهندگان متن‌باز 40%حامیان حریم خصوصی 35%تحلیلگران صنعت ابری 25%
توسعه‌دهندگان متن‌باز
تاکید بر استقلال از سرورهای ابری و کاهش هزینه‌های استنتاج.
حامیان حریم خصوصی
اهمیت پردازش محلی داده‌های حساس و جلوگیری از نشت اطلاعات.
تحلیلگران صنعت ابری
تاکید بر محدودیت‌های مدل‌های کوچک در پردازش‌های پیچیده.

دیدگاه‌هایی که این گزارش پوشش نداده

  • کاربران نهایی عادی
  • نهادهای قانون‌گذار فناوری

منابع

پوشش منابع

4 منبع

3 دیدگاه شناسایی‌شده

توسعه‌دهندگان متن‌باز 40%حامیان حریم خصوصی 35%تحلیلگران صنعت ابری 25%
  1. [1]Hugging Faceتوسعه‌دهندگان متن‌باز

    BotPsy: A 0.8B On-Device Agentic Model

    مطالعه در Hugging Face →
  2. [2]Yahoo Financeتحلیلگران صنعت ابری

    Global Small Language Models (SLM) Market Report 2026

    مطالعه در Yahoo Finance →
  3. [3]Ars Technicaتحلیلگران صنعت ابری

    Anthropic warns small AI models could self-replicate through IoT devices

    مطالعه در Ars Technica →
  4. [4]تیم سردبیری کوهستانحامیان حریم خصوصی

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار هوش مصنوعی با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.