رفتن به محتوای اصلی
حاکمیت هوش مصنوعیتوضیح و تفسیر۱۲ مرداد ۱۴۰۵، ۱۶:۲۱· 5 دقیقه مطالعه· در هوش مصنوعی

سیگنال چین برای تغییر سیاست: محدودیت دسترسی به پیشرفته‌ترین مدل‌های هوش مصنوعی «وزن باز»

در حالی که مدل‌های هوش مصنوعی منبع باز به قابلیت‌های مرزی (فرانتیر) دست یافته‌اند، رگولاتورها در پکن در حال بررسی «مدارهای قطع‌کننده» (Circuit Breakers) برای محدود کردن دسترسی خارجی به پیشرفته‌ترین سیستم‌ها هستند. این اقدام نشان‌دهنده بلوغ جهانی در حاکمیت هوش مصنوعی است که مزایای اقتصادی عظیم وزن‌های باز را با خطرات امنیتی نوظهور متعادل می‌کند.

به قلم آرش رضایی

حامیان منبع باز 40%ناظران امنیتی 35%توسعه‌دهندگان مدل‌های بسته 25%
حامیان منبع باز
معتقدند وزن‌های باز نوآوری جهانی را هدایت می‌کنند، هزینه‌ها را کاهش می‌دهند و از انحصار بازار جلوگیری می‌کنند.
ناظران امنیتی
بر خطرات استفاده دوگانه مدل‌های مرزی و ناتوانی در فراخوانی وزن‌های باز تمرکز دارند.
توسعه‌دهندگان مدل‌های بسته
استدلال می‌کنند که هوش مصنوعی پیشرفته باید برای حفظ ایمنی و نظارت، به APIها محدود شود.

اکوسیستم هوش مصنوعی منبع باز اساساً نحوه ساخت نرم‌افزار توسط توسعه‌دهندگان را تغییر داده است. به جای تکیه انحصاری بر سیستم‌های بسته و اختصاصی، اکنون میلیون‌ها توسعه‌دهنده مدل‌های قدرتمند «وزن باز» (Open-Weight) را دانلود می‌کنند تا آن‌ها را بر روی سخت‌افزار خود اجرا کنند، که موجی از نوآوری بدون نیاز به مجوز را در صنایع مختلف ممکن ساخته است.

در طول دو سال گذشته، آزمایشگاه‌های هوش مصنوعی چین موتور محرک این اکوسیستم باز بوده‌اند. شرکت‌هایی مانند علی‌بابا (Alibaba)، ژیپو اِی‌آی (Zhipu AI) و مون‌شات اِی‌آی (Moonshot AI) با انتشار رایگان مدل‌های بسیار توانمند، سهم بازار جهانی عظیمی را به دست آورده‌اند، به طوری که سیستم‌های آن‌ها اکنون بیش از ۶۰ درصد از توکن‌های پردازش شده در پلتفرم‌های مسیریابی اصلی را مدیریت می‌کنند.[6]

اما با عبور این مدل‌ها از یک آستانه قابلیت حیاتی، محاسبات نظارتی در حال تغییر است. در اواخر جولای ۲۰۲۶، وزارت بازرگانی چین مذاکراتی را با توسعه‌دهندگان برتر هوش مصنوعی آغاز کرد تا دسترسی خارجی به پیشرفته‌ترین مدل‌های منتشر نشده آن‌ها را محدود کند.[1][2]

تغییر سیاست پیشنهادی نشان‌دهنده بلوغ در حاکمیت جهانی هوش مصنوعی است. به جای ممنوعیت کامل فناوری منبع باز، رگولاتورها در حال بررسی یک رویکرد طبقه‌بندی شده هستند: در دسترس نگه داشتن مدل‌های استاندارد به صورت رایگان، در حالی که «مدارهای قطع‌کننده» (Circuit Breakers) بر روی سیستم‌های مرزی (Frontier) که با قدرتمندترین هوش مصنوعی‌های جهان رقابت می‌کنند، اعمال شود.[3]

مدل‌های با وزن باز به دلیل دسترسی‌پذیری و عملکردشان، مورد استقبال گسترده جهانی قرار گرفته‌اند.

برای درک اهمیت این موضوع، بهتر است به مکانیسم «وزن‌های باز» نگاه کنیم. هنگامی که یک آزمایشگاه، هوش مصنوعی را آموزش می‌دهد، یک فایل عظیم از پارامترهای عددی—همان وزن‌ها—تولید می‌کند که نحوه پردازش اطلاعات و تولید پاسخ‌ها توسط مدل را دیکته می‌کنند.

در یک سیستم بسته، مانند سیستم‌هایی که توسط اوپن‌اِی‌آی (OpenAI) یا آنتروپیک (Anthropic) اداره می‌شوند، این وزن‌ها در سرورهای شرکت پنهان می‌مانند. کاربران از طریق یک API با مدل تعامل می‌کنند، به ازای هر پرس‌وجو هزینه می‌پردازند و داده‌های خود را تحت نظارت و فیلترهای ایمنی ارائه‌دهنده قرار می‌دهند.[3][6]

انتشار وزن‌های باز این پویایی را معکوس می‌کند. با انتشار پارامترها به صورت آنلاین، آزمایشگاه‌ها به هر کسی اجازه می‌دهند تا مدل را دانلود کند، آن را بر روی داده‌های خصوصی تنظیم دقیق (Fine-tune) کند و آن را به صورت محلی اجرا کند، بدون اینکه هزینه‌های اشتراک بپردازد یا اطلاعات حساس سازمانی را در معرض دید اشخاص ثالث قرار دهد.[5]

این گشودگی یک مزیت بزرگ برای نوآوری جهانی بوده است. استارتاپ‌ها، محققان دانشگاهی و بخش‌های فناوری اطلاعات سازمانی به مدل‌های وزن باز روی آورده‌اند تا برنامه‌های کاربردی سفارشی را با کسری از هزینه جایگزین‌های بسته بسازند.[8]

استارتاپ‌ها، محققان دانشگاهی و بخش‌های فناوری اطلاعات سازمانی به مدل‌های وزن باز روی آورده‌اند تا برنامه‌های کاربردی سفارشی را با کسری از هزینه جایگزین‌های بسته بسازند.

با این حال، همان ویژگی‌هایی که وزن‌های باز را جذاب می‌کنند—دسترسی نامحدود و کنترل محلی—چالش‌های امنیتی جدیدی نیز ایجاد می‌کنند. هنگامی که یک مدل دانلود می‌شود، سازندگان آن نمی‌توانند نحوه استفاده از آن را نظارت کنند، آن را فراخوانی کنند یا با محافظ‌های ایمنی جدید آن را وصله (Patch) کنند.[3][5]

مدل‌های با وزن باز به توسعه‌دهندگان اجازه می‌دهند هوش مصنوعی را به صورت محلی اجرا کنند و سرورهای شخص ثالث و هزینه‌های به ازای هر توکن را دور بزنند.

این پایداری زمانی که مدل‌ها به قابلیت‌های «مرزی» (Frontier) می‌رسند، به یک مسئولیت عمیق تبدیل می‌شود. در اواسط جولای، مون‌شات اِی‌آی مدل کیمی کا۳ (Kimi K3) را با ۲.۸ تریلیون پارامتر منتشر کرد که ارزیابان مستقل دریافتند این مدل قادر است در وظایف پیچیده کدنویسی و استدلال، با مدل‌های برتر آمریکایی رقابت کند یا حتی از آن‌ها پیشی بگیرد.[3][4][7]

سیستم‌هایی با این کالیبر می‌توانند به صورت تئوری برای کشف آسیب‌پذیری‌های نرم‌افزاری، تولید کمپین‌های فیشینگ پیچیده یا کمک به تحقیقات بیولوژیکی مورد استفاده مجدد قرار گیرند. رگولاتورهای چینی با درک این خطرات استفاده دوگانه، اکنون نگرانی‌های ایمنی را که پیش‌تر توسط همتایان آمریکایی‌شان مطرح شده بود، تکرار می‌کنند.[5]

بحث‌های پکن آینه‌ای از یک مناظره موازی است که در سیلیکون ولی و واشنگتن در جریان است. در حالی که توسعه‌دهندگان مدل‌های بسته برای کنترل‌های سخت‌گیرانه بر گسترش منبع باز لابی کرده‌اند، ائتلاف گسترده‌ای از غول‌های سخت‌افزاری و نرم‌افزاری—از جمله انویدیا (Nvidia) و متا (Meta)—به شدت از اکوسیستم باز دفاع کرده‌اند.[8]

این حامیان استدلال می‌کنند که مدل‌های باز از انحصار بازار جلوگیری می‌کنند و در واقع امنیت را با اجازه دادن به هزاران محقق مستقل برای بررسی نقص‌های سیستم‌ها افزایش می‌دهند، بسیار شبیه به نحوه ایمن‌سازی اینترنت مدرن توسط نرم‌افزار منبع باز.[8]

ائتلاف گسترده‌ای از شرکت‌های فناوری و توسعه‌دهندگان استدلال می‌کنند که هوش مصنوعی منبع باز برای نوآوری جهانی ضروری است.

اجماع نوظهور در میان رگولاتورهای جهانی به سمت «گشودگی انتخابی» اشاره دارد. تحت این الگو، اکثریت قریب به اتفاق مدل‌های هوش مصنوعی برای پیشبرد رشد اقتصادی و شمول تکنولوژیکی، به ویژه برای کشورهای در حال توسعه، آزادانه در دسترس باقی خواهند ماند.[7]

در همین حال، تنها پیشرفته‌ترین لبه توسعه هوش مصنوعی—مدل‌هایی که قادر به عملیات سایبری خودمختار یا استدلال علمی پیشرفته هستند—قبل از انتشار وزن‌هایشان، با کنترل‌های صادراتی، آزمایش ایمنی اجباری یا محدودیت‌های استفاده داخلی مواجه خواهند شد.[3][4]

در نهایت، این تکامل سیاست نشان می‌دهد که صنعت هوش مصنوعی در حال عبور از فاز «غرب وحشی» خود است. در حالی که هم ایالات متحده و هم چین با واقعیت‌های هوش مصنوعی مرزی دست و پنجه نرم می‌کنند، تمرکز از صرفاً به حداکثر رساندن قابلیت‌ها به سمت ایجاد چارچوب‌های پایدار و ایمن تغییر می‌کند که به نوآوری منبع باز اجازه می‌دهد بدون به خطر انداختن امنیت جهانی رشد کند.

نکات کلیدی

  1. رگولاتورهای چینی در حال بررسی محدود کردن دسترسی خارجی به پیشرفته‌ترین مدل‌های هوش مصنوعی منتشر نشده هستند.
  2. این تغییر نشان‌دهنده حرکت به سمت «گشودگی انتخابی» برای ایجاد تعادل بین نوآوری جهانی و امنیت ملی است.
  3. مدل‌های وزن باز به توسعه‌دهندگان اجازه می‌دهند هوش مصنوعی را به صورت محلی اجرا کنند، از پرداخت هزینه به ازای هر توکن اجتناب کرده و حریم خصوصی داده‌ها را حفظ کنند.
  4. با رسیدن مدل‌ها به قابلیت‌های مرزی، رگولاتورها در سطح جهانی با ناتوانی در فراخوانی وزن‌های دانلود شده دست و پنجه نرم می‌کنند.
  5. ائتلاف گسترده‌ای از شرکت‌های فناوری ایالات متحده همچنان از هوش مصنوعی منبع باز به عنوان عنصری ضروری برای جلوگیری از انحصارات بازار دفاع می‌کند.

اصطلاحات کلیدی

مدل وزن باز (Open-Weight Model)
سیستم هوش مصنوعی که پارامترهای عددی زیربنایی (وزن‌ها) آن به صورت عمومی منتشر می‌شوند و به هر کسی اجازه می‌دهد مدل را دانلود و به صورت محلی اجرا کند.
API بسته (Closed API)
سیستمی که مدل هوش مصنوعی در سرورهای توسعه‌دهنده باقی می‌ماند و کاربران با پرداخت هزینه دسترسی، از طریق اینترنت با آن تعامل می‌کنند.
هوش مصنوعی مرزی (Frontier AI)
پیشرفته‌ترین و بسیار توانمندترین مدل‌های هوش مصنوعی که مرزهای قابلیت‌های تکنولوژیکی فعلی را جابجا می‌کنند.
تقطیر مدل (Model Distillation)
تکنیکی که در آن یک مدل هوش مصنوعی کوچک‌تر و ارزان‌تر با استفاده از خروجی‌های یک مدل بزرگ‌تر و قدرتمندتر آموزش داده می‌شود.

منابع

پوشش منابع

8 منبع

3 دیدگاه شناسایی‌شده

حامیان منبع باز 40%ناظران امنیتی 35%توسعه‌دهندگان مدل‌های بسته 25%
  1. [1]Reutersناظران امنیتی

    China considers curbing overseas access to top AI models

    مطالعه در Reuters
  2. [2]Timeناظران امنیتی

    China Weighs Restricting Access to Open-Weight AI Models

    مطالعه در Time
  3. [3]The Wire Chinaناظران امنیتی

    China: AI's open weights and closed doors

    مطالعه در The Wire China
  4. [4]Just Securityتوسعه‌دهندگان مدل‌های بسته

    Regulate, Don't Ban, Chinese AI Models

    مطالعه در Just Security
  5. [5]Transpacificaناظران امنیتی

    Is China about to constrain open AI models?

    مطالعه در Transpacifica
  6. [6]Sheppard Mullinتوسعه‌دهندگان مدل‌های بسته

    The switch is becoming symmetric: AI export controls

    مطالعه در Sheppard Mullin
  7. [7]CIGI Onlineحامیان منبع باز

    Will China Keep Its AI Models Open Source? WAICO and Kimi K3 Suggest Yes — for Now

    مطالعه در CIGI Online
  8. [8]Recode China AIحامیان منبع باز

    Banning Chinese Open-Weight Models Would Hurt the U.S. More Than Help It

    مطالعه در Recode China AI

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت هوش مصنوعی اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.