علی‌بابا از مدل هوش مصنوعی ۲.۴ تریلیون پارامتری کیو‌وِن ۳.۸-مکس رونمایی کرد و وزن‌های آن را برای هوش مصنوعی سازمانی منبع باز نمود

در طول دو سال گذشته، قدرتمندترین سیستم‌های هوش مصنوعی پشت دیوارهای پرداخت اِی‌پی‌آی چند غول فناوری غربی محبوس بودند. اگر توسعه‌دهنده‌ای مدلی می‌خواست که بتواند وظایف پیچیده مهندسی نرم‌افزار چند روزه را استدلال و اجرا کند، آن را به صورت توکنی از اوپن‌اِی‌آی یا آنتروپیک اجاره می‌کرد. این پویایی در حال شکستن است. مانع ورود به دنیای هوش مصنوعی در سطح پیشرو اکنون به اندازه هزینه سخت‌افزار مورد نیاز برای اجرای آن کاهش یافته است.

در تاریخ ۳ آگوست، علی‌بابا رسماً کیو‌وِن ۳.۸-مکس را منتشر کرد، یک مدل زبان چندوجهی عظیم با ۲.۴ تریلیون پارامتر. این غول فناوری چینی به جای انحصاری نگه داشتن توانمندترین سیستم خود، وزن‌های اصلی مدل را برای دانلود عمومی منتشر می‌کند. این اولین باری است که علی‌بابا یک مدل پرچمدار «کلاس مکس» را منبع باز می‌کند و قابلیت‌های عامل خودکار در سطح سازمانی را از محیط‌های بسته به اکوسیستم منبع باز می‌آورد.[1][2][8]

اعداد و ارقام اصلی شگفت‌انگیز هستند و بازاریابی علی‌بابا به شدت بر آن‌ها تکیه دارد و ادعا می‌کند که این مدل با سیستم‌های برتر غربی مانند کلود فیبل ۵ از آنتروپیک رقابت بالایی دارد. اما برای جدا کردن واقعیت عرضه شده از چارچوب تبلیغاتی، باید به نحوه عملکرد واقعی مدل نگاه کرد.

کیو‌وِن ۳.۸-مکس یک مغز یکپارچه نیست؛ بلکه یک سیستم مسیریابی بسیار بهینه‌سازی شده است که به طور خاص برای کارهای «بلندمدت» طراحی شده است—وظایفی که نیاز دارند هوش مصنوعی به جای ثانیه‌ها، در طول روزها برنامه‌ریزی، اجرا و خوداصلاحی کند.[1][3][7]

راز کارایی این مدل در معماری آن نهفته است. کیو‌وِن ۳.۸-مکس با وجود داشتن ۲.۴ تریلیون پارامتر کلی، از طراحی «ترکیب متخصصان پراکنده» (MoE) استفاده می‌کند. هنگامی که کاربر یک درخواست را ارسال می‌کند، سیستم کل شبکه ۲.۴ تریلیون پارامتری را فعال نمی‌کند. در عوض، یک سازوکار مسیریابی، درخواست را به زیرشبکه‌های تخصصی هدایت می‌کند و تنها حدود ۹۵ میلیارد پارامتر را در هر گذر رو به جلو فعال می‌سازد.[1][4][6]

این رویکرد MoE یک مشکل حیاتی مقیاس‌پذیری را حل می‌کند. این امر به مدل اجازه می‌دهد تا مخزن وسیعی از دانش و مهارت‌های تخصصی داشته باشد، بدون اینکه متحمل هزینه‌های محاسباتی فاجعه‌بار اجرای یک مدل متراکم با همان اندازه شود. نتیجه، سیستمی است که می‌تواند تا یک میلیون توکن زمینه (کانتکست) را پردازش کند—تقریباً ۷۵۰,۰۰۰ کلمه، یا چند صد صفحه مستندات—در حالی که سرعت استنتاج آن با مدل‌های بسیار کوچک‌تر رقابت می‌کند.[1][4][6]

کیو‌وِن ۳.۸-مکس به طور ذاتی چندوجهی نیز هست. این مدل فقط متن نمی‌خواند؛ بلکه تصاویر، نمودارهای فنی و حتی ویدئوهای طولانی را نیز دریافت می‌کند. در آزمایش‌های مستقل توسط پلتفرم بینایی کامپیوتر Roboflow، این مدل قابلیت‌های استثنایی در تشخیص اشیا از خود نشان داد و با موفقیت تصاویر ماهواره‌ای، صحنه‌های شلوغ و طرح‌های دستی را بدون نیاز به تنظیم دقیق خاص وظیفه، تجزیه و تحلیل کرد.[1][5]

جسورانه‌ترین ادعاهای علی‌بابا بر توانایی مدل برای عمل به عنوان یک عامل خودکار متمرکز است. این شرکت در مستندات انتشار خود، آزمایشی داخلی را برجسته کرد که در آن کیو‌وِن ۳.۸-مکس به مدت ۱۶ روز به طور مستقل برای ساخت یک ابزار رابط خط فرمان از ابتدا کار کرد. گزارش شده است که این مدل حلقه مهندسی خود را ایجاد کرده، بازخورد کاربر را ترکیب نموده، کد نوشته و خودآزمایی‌ها را بدون دخالت انسان اجرا کرده است.[1][3][8]

اگرچه این قابلیت‌ها چشمگیر هستند، توسعه‌دهندگان باید این ادعاهای «خودکار» را با درجه‌ای از شک و تردید ساختاری بنگرند. خود مدل بیدار نمی‌شود و تصمیم نمی‌گیرد که دو هفته کدنویسی کند؛ بلکه توسط یک داربست عاملی خارجی هدایت می‌شود—یک اسکریپت که به طور مداوم خروجی‌های مدل را به ورودی‌های آن باز می‌گرداند و آن را وادار می‌کند تا کار خود را ارزیابی کند.

پیشرفت در این نیست که مدل «زنده» است، بلکه در این است که استدلال آن به اندازه‌ای قابل اعتماد است که پس از صدها حلقه خودکار متوالی، کاملاً از مسیر خارج نشود.[3][7]

در ارزیابی‌های استاندارد شده، عملکرد مدل منعکس‌کننده این تمرکز بر گردش‌کارهای عاملی است. این مدل در معیار اُاِس‌وُرلد-تأییدشده برای استفاده عاملی از رایانه، امتیاز ۸۶.۱ را کسب می‌کند و آن را جلوتر از مدل‌های بزرگ غربی مانند جی‌پی‌تی ۵.۶ سول مکس و جِمینای ۳.۱ پرو قرار می‌دهد. با این حال، در برخی معیارهای سنتی مهندسی نرم‌افزار، هنوز از کلود اُپوس ۵ آنتروپیک عقب‌تر است، که نشان می‌دهد این مدل بیشتر برای اجرای گسترده و چند مرحله‌ای بهینه‌سازی شده است تا حل مسئله صرفاً الگوریتمی.[4][6]

مخرب‌ترین جنبه کیو‌وِن ۳.۸-مکس، نمرات معیار آن نیست، بلکه در دسترس بودن آن است. علی‌بابا با انتشار وزن‌های مدل در پلتفرم‌هایی مانند هاگینگ فیس و مدل‌اسکوپ، به توسعه‌دهندگان اجازه می‌دهد تا سیستم را دانلود، اصلاح و روی زیرساخت خود میزبانی کنند. برای کاربران سازمانی که با داده‌های بسیار حساس سروکار دارند، توانایی اجرای یک مدل در کلاس پیشرو به صورت کاملاً آفلاین، یک مزیت استراتژیک بزرگ محسوب می‌شود.[2][7][8]

با این حال، «وزن باز» به معنای کاملاً رایگان بودن نیست. علی‌بابا برای استقرارهای گسترده، شرط مجوز تجاری را ضمیمه کرده است. اگر شرکتی از کیو‌وِن ۳.۸-مکس برای ارائه یک سرویس تجاری استفاده کند و بیش از ۵۰ میلیون دلار درآمد تجمعی در یک دوره ۱۲ ماهه کسب کند، باید یک مجوز پولی جداگانه با علی‌بابا مذاکره کند. برای اکثریت قریب به اتفاق توسعه‌دهندگان و محققان، استفاده از مدل رایگان باقی می‌ماند، اما غول‌های فناوری نمی‌توانند به سادگی کار علی‌بابا را برای خدمات ابری خود بدون پرداخت هزینه، استخراج کنند.[2]

برای کسانی که توانایی مالی لازم برای زیرساخت عظیم مرکز داده مورد نیاز برای میزبانی محلی یک مدل ۲.۴ تریلیون پارامتری را ندارند، علی‌بابا دسترسی اِی‌پی‌آی را با نرخ‌های یارانه‌ای تهاجمی ارائه می‌دهد. در سطح بین‌المللی، کیو‌وِن ۳.۸-مکس ۲.۰۰ دلار به ازای هر میلیون توکن ورودی و ۶.۰۰ دلار به ازای هر میلیون توکن خروجی هزینه دارد. این هزینه ترکیبی کمتر از یک سوم مبلغی است که آنتروپیک برای کلود اُپوس ۵ دریافت می‌کند و اقتصاد واحد ساخت برنامه‌های هوش مصنوعی را به طور اساسی تغییر می‌دهد.[4][6]

جامعه منبع باز در حال حاضر برای کوچک کردن ردپای مدل تلاش می‌کند. پروژه‌هایی مانند Unsloth AI از تکنیک‌های کوانتیزاسیون ۱ بیتی پویا استفاده کرده‌اند تا اندازه عظیم ۴.۹ ترابایتی مدل را تا حدود ۳۹۷ گیگابایت فشرده کنند. اگرچه هنوز به سخت‌افزار قدرتمندی نیاز دارد—بیش از ۴۱۰ گیگابایت حافظه رم و وی‌رم ترکیبی—اما مدل را از قلمرو انحصاری مراکز داده فوق‌مقیاس خارج کرده و به حوزه سرورهای سازمانی محلی رده بالا می‌آورد.[8]

انتشار علی‌بابا جدیدترین حمله در یک مسابقه تسلیحاتی فزاینده وزن باز در میان آزمایشگاه‌های هوش مصنوعی چینی است. در حالی که شرکت‌های آمریکایی مانند اوپن‌اِی‌آی و گوگل مدل‌های پیشرو خود را به طور فزاینده‌ای پشت اِی‌پی‌آی‌های اختصاصی قفل کرده‌اند، توسعه‌دهندگان چینی مانند علی‌بابا، دیپ‌سیک و مون‌شات اِی‌آی از انتشارات منبع باز استفاده می‌کنند تا به طور تهاجمی سهم ذهن توسعه‌دهندگان جهانی را به دست آورند و لایه مدل‌های بنیادی را کالایی کنند.[2][7]

کیو‌وِن ۳.۸-مکس ثابت می‌کند که شکاف بین مدل‌های وزن باز و محیط‌های بسته اختصاصی عملاً از بین رفته است. اینکه آیا این مدل واقعاً بهترین مدل‌های سیلیکون ولی را در هر مورد خاص شکست می‌دهد، تقریباً بی‌اهمیت است. علی‌بابا با ارائه استدلال چندوجهی در سطح پیشرو و قابلیت‌های عاملی بلندمدت با کسری از هزینه—و اجازه دادن به توسعه‌دهندگان برای دانلود مستقیم وزن‌ها—محاسبات مربوط به نحوه ساخت هوش مصنوعی سازمانی در سال آینده را به طور اساسی تغییر داده است.[2][7]