رفتن به محتوای اصلی
· 7 دقیقه مطالعه· در هوش مصنوعی

هوش مصنوعی اکنون می‌تواند کدهای درونی مدل‌های دیگر را بخواند و ویرایش کند؛ پایان عصر آموزش سنتی؟

پژوهشگران دانشگاه MIT نشان دادند که مدل‌های زبانی پیشرفته می‌توانند بدون نیاز به آموزش مجدد، وزن‌های شبکه‌های عصبی دیگر را مستقیماً تحلیل و اصلاح کنند. این دستاورد که «برنامه‌نویسی در فضای وزن» نامیده می‌شود، می‌تواند تحولی بنیادین در نحوه بهینه‌سازی هوش مصنوعی ایجاد کند.

به قلم الوین شادمهر

این خبر را به اشتراک بگذارید

گوش‌ دهید

سال‌هاست که در دنیای هوش مصنوعی یک بحث بنیادین وجود دارد مبنی بر اینکه آیا شبکه‌های عصبی همیشه جعبه‌های سیاهی خواهند ماند که تنها با آزمون و خطای کورکورانه و تزریق داده‌های عظیم بهبود می‌یابند. گروهی از پژوهشگران معتقدند که برای درک این سیستم‌ها باید مدل‌های کوچک‌تر و شفاف‌تری بسازیم.[1]

اما گروهی دیگر استدلال می‌کنند که پیچیدگی مدل‌های بزرگ، ذاتاً غیرقابل کشف است و ما چاره‌ای جز پذیرش این تاریکی نداریم. اکنون، یک مقاله جدید از آزمایشگاه هوش مصنوعی دانشگاه ام‌آی‌تی مسیر سوم و کاملاً متفاوتی را پیشنهاد داده است.[2]

چه می‌شود اگر یک مدل هوش مصنوعی پیشرفته بتواند اعداد خام و درونی یک مدل دیگر را مستقیماً بخواند و مانند یک برنامه‌نویس که کدهای معیوب را اصلاح می‌کند، آن‌ها را بازنویسی کند. این ایده رادیکال، دیگر تنها یک فرضیه علمی و تخیلی نیست.[2]

تولد برنامه‌نویسی در فضای وزن

در دوم نوامبر ۲۰۲۶، تیمی متشکل از ریکیا تاکهی، جایدن تئو، الکس ژانگ و عمر خطاب، مقاله‌ای با عنوان جرقه‌های برنامه‌نویسی در فضای وزن منتشر کردند. آن‌ها در این پژوهش نشان دادند که مدل‌های زبانی بزرگ می‌توانند مستقیماً با وزن‌های شبکه‌های عصبی تعامل داشته باشند.[2]

مجله معتبر نیچر در ۱۳ نوامبر با انتشار گزارشی، این دستاورد را تحولی بزرگ خواند. این نشریه، هوش مصنوعی ویرایشگر را به یک مکانیک تشبیه کرد که می‌تواند به درون جعبه سیاه سایر شبکه‌های عصبی نفوذ کرده و اجزای آن‌ها را تعمیر کند.[1]

برای درک اهمیت این موضوع، باید بدانیم که هوش مصنوعی امروزی چگونه آموزش می‌بیند. آموزش یک شبکه عصبی در حال حاضر، شبیه به یک بازی عظیم سرد و گرم در مقیاس صنعتی است که در آن مدل یک خروجی تولید می‌کند و الگوریتم بهینه‌ساز، میزان خطای آن را می‌سنجد.[3]

سپس الگوریتمی مانند گرادیان کاهشی، میلیون‌ها یا میلیاردها عدد درونی مدل را اندکی تغییر می‌دهد تا خطا کمتر شود. این فرآیند میلیاردها بار تکرار می‌شود تا مدل به عملکرد مطلوب برسد و با وجود موفقیت بالا، الگوریتم بهینه‌ساز هیچ درکی از کاری که انجام می‌دهد ندارد.[3]

تفاوت آموزش سنتی مبتنی بر آزمون و خطا با برنامه‌نویسی مستقیم در فضای وزن.

الگوریتم‌های سنتی نمی‌دانند که در حال آموزش ریاضیات، تشخیص تصویر گربه یا درک طعنه در زبان انسان هستند و تنها سیگنال‌های عددی را دنبال می‌کنند تا خطا را کاهش دهند. در مقابل، برنامه‌نویسی در فضای وزن رویکردی کاملاً متفاوت و مبتنی بر استدلال را پیشنهاد می‌دهد.[2]

مکانیک هوشمند به جای آزمون و خطا

در این روش جدید، به جای تغییر کورکورانه وزن‌ها، شما خواسته خود را به زبان طبیعی بیان می‌کنید. سپس یک مدل استدلال‌گر پیشرفته بررسی می‌کند که شبکه هدف دقیقاً در حال انجام چه محاسباتی است و وزن‌های مرتبط را مستقیماً تغییر می‌دهد.[2]

این فرآیند بیشتر شبیه به باز کردن کاپوت ماشین و تعمیر مستقیم موتور است تا اینکه بخواهیم با فشار دادن تصادفی پدال‌ها، عملکرد خودرو را بهبود ببخشیم. پژوهشگران ام‌آی‌تی برای اثبات این ایده، چندین آزمایش شگفت‌انگیز را طراحی و اجرا کردند.[2]

در یکی از برجسته‌ترین آزمایش‌ها، آن‌ها مدل زبانی Qwen3.5-0.8B را هدف قرار دادند. این مدل کوچک گاهی در حلقه‌های استدلالی تکراری گرفتار می‌شد که مشکلی شناخته شده بود و حتی در مستندات رسمی سازندگان آن نیز به عنوان یک نقطه ضعف معرفی شده بود.[2]

پژوهشگران از مدل استدلال‌گر پیشرفته خواستند تا توانایی ریاضی این مدل را بهبود بخشد. این مدل، بدون استفاده از هیچ‌گونه گرادیان یا حلقه آموزشی، توانست ریشه مشکل را در میان وزن‌های شبکه پیدا کند که کاری تقریباً غیرممکن برای انسان‌ها به نظر می‌رسید.[2]

مدل ویرایشگر تنها ۱۳۱ هزار و ۷۲ پارامتر از مجموع ۸۰۰ میلیون وزن مدل هدف را ویرایش کرد. این رقم معادل تغییر دادن تنها ۰.۰۱۶ درصد از کل ساختار شبکه عصبی بود و نتیجه این جراحی دقیق و نقطه‌ای، فراتر از حد انتظار پژوهشگران ظاهر شد.[2]

جهش خیره‌کننده در عملکرد مدل

با همین تغییر بسیار ناچیز، امتیاز مدل در آزمون ریاضی از ۷.۹ درصد به ۴۸.۱ درصد افزایش یافت. این بدان معناست که توانایی حل مسئله مدل، بدون اینکه حتی یک مرحله آموزش سنتی را طی کند، بیش از شش برابر بهبود پیدا کرد.[2]

جهش خیره‌کننده عملکرد مدل Qwen در آزمون ریاضی پس از ویرایش تنها ۰.۰۱۶ درصد از وزن‌ها.

شگفتی‌ها به همین جا ختم نشد و این اصلاح نقطه‌ای در فضای وزن‌ها، توانایی مدل در پیروی از دستورالعمل‌ها را نیز تا سه برابر افزایش داد. مدل ویرایشگر با استدلال درباره اینکه هر بخش از شبکه چه وظیفه‌ای دارد، توانست کدهای عصبی را مانند یک برنامه‌نویس انسانی بازنویسی کند.[2]

آزمایش‌های این تیم تنها به مدل‌های زبانی محدود نبود و آن‌ها در بخش دیگری از پژوهش، حدود ۱۷ هزار وزن خام از چهار شبکه عصبی مختلف را به مدل استدلال‌گر دادند. این شبکه‌ها برای بازی‌های متفاوتی آموزش دیده بودند، اما ساختار کاملاً یکسانی داشتند.[4]

مدل تحلیل‌گر بدون اینکه اجازه داشته باشد این شبکه‌ها را اجرا کند یا خروجی آن‌ها را ببیند، تنها با تحلیل اعداد خام توانست ماهیت آن‌ها را تشخیص دهد. این مدل به درستی مشخص کرد که کدام شبکه برای بازی‌های متفاوتی مانند پَک‌مَن و پونگ آموزش دیده است.[4]

این سطح از درک ساختاری نشان می‌دهد که مدل‌های پیشرفته اکنون می‌توانند الگوهای منطقی پنهان در میان ماتریس‌های درهم‌تنیده اعداد را کشف کنند. آن‌ها می‌فهمند که یک مجموعه خاص از وزن‌ها، در واقع در حال محاسبه مسیر حرکت یک شیء در یک محیط مجازی است.[4]

نوشتن شبکه‌های عصبی از صفر

شاید حیرت‌انگیزترین بخش این پژوهش، زمانی بود که مدل توانست یک شبکه عصبی را از پایه بنویسد. پژوهشگران قوانین یک بازی ساده را به همراه کدهای محیط آن به مدل دادند و از آن خواستند تا وزن‌های یک شبکه کنترل‌کننده را برای انجام این بازی تولید کند.[2]

مدل ویرایشگر در یک پاسخ واحد و بدون هیچ‌گونه بازخورد از محیط یا استفاده از ابزارهای جانبی، وزن‌های شبکه را تولید کرد. شبکه‌ای که به این روش ساخته شد، توانست شبکه‌های مشابهی را که با روش سنتی برای ۱۰۰ میلیون گام آموزش دیده بودند، به راحتی شکست دهد.[2]

این نتایج نشان می‌دهد که دانش پیشین یک مدل زبانی درباره هندسه، برنامه‌نویسی و استراتژی بازی‌ها، می‌تواند مستقیماً به وزن‌های یک شبکه عصبی جدید ترجمه شود. این رویکرد، نیاز به یادگیری از طریق تجربه و خطاهای طولانی‌مدت را به شدت کاهش می‌دهد.[2]

پژوهشگران تمام گزارش‌های این آزمایش‌ها، از جمله درخواست‌های ارسال شده به مدل، پاسخ‌های آن و خلاصه‌های استدلالی را به صورت عمومی در پلتفرم گیت‌هاب منتشر کرده‌اند. شفافیت این داده‌ها به جامعه علمی اجازه می‌دهد تا این ادعاهای بزرگ را به دقت راستی‌آزمایی کنند.[4]

پیامدهای بنیادین برای تفسیرپذیری

این دستاورد، حوزه تفسیرپذیری مکانیسمی را وارد مرحله کاملاً جدیدی می‌کند. تا پیش از این، هدف اصلی پژوهشگران این بود که صرفاً توضیح دهند یک شبکه عصبی چگونه به یک تصمیم خاص می‌رسد و کدام نورون‌ها در این فرآیند درگیر هستند.[1]

تصویرسازی: تفسیرپذیری مکانیسمی در حال گذار از مرحله توضیح دادن به مرحله دست‌کاری مستقیم است.

اما اکنون، ما از مرحله توضیح دادن به مرحله دست‌کاری کردن عبور کرده‌ایم. اگر بتوانیم وزن‌های یک مدل را مانند کدهای نرم‌افزاری بخوانیم و ویرایش کنیم، فرآیند اشکال‌زدایی هوش مصنوعی دیگر نیازی به آموزش مجدد و صرف هزینه‌های نجومی پردازشی نخواهد داشت.[1]

این قابلیت می‌تواند خطاهای خطرناک، سوگیری‌های پنهان و توهمات مدل‌های زبانی را پیش از استقرار در دنیای واقعی شناسایی و برطرف کند. به جای اینکه منتظر بمانیم تا مدل در عمل اشتباه کند، یک هوش مصنوعی ناظر می‌تواند کدهای عصبی آن را پیشاپیش اصلاح نماید.[3]

با این حال، این توانایی جدید یک شمشیر دو لبه است و مدلی که بتواند ساختار درونی مدل دیگر را به دقت بازنویسی کند، در دست افراد نادرست می‌تواند به ابزاری برای تخریب تبدیل شود. ایمنی هوش مصنوعی اکنون با چالش‌های پیچیده‌تری روبه‌رو است.[1][5]

آینده توسعه هوش مصنوعی

البته پژوهشگران تأکید می‌کنند که این فناوری هنوز در مرحله جرقه‌های اولیه است. مدل ویرایشگر لزوماً شبکه‌ها را به معنای انسانی کلمه نمی‌فهمد و هنوز مشخص نیست که این توانایی تا چه حد می‌تواند در مدل‌های بسیار بزرگ‌تر با صدها میلیارد پارامتر مقیاس‌پذیر باشد.[2]

ریکیا تاکهی و همکارانش در مقاله خود به صراحت بیان می‌کنند که مدل‌های زبانی پیشرفته در خواندن و نوشتن بومی وزن‌های شبکه‌های عصبی به طرز شگفت‌آوری خوب عمل می‌کنند؛ بسیار فراتر از آنچه از انسان‌ها یا الگوریتم‌های مرسوم انتظار می‌رود.[2]

این تغییر پارادایم می‌تواند وابستگی شدید صنعت به خوشه‌های عظیم پردازشی برای هر تغییر کوچک را کاهش دهد. اگر ویرایش مستقیم وزن‌ها به یک استاندارد تبدیل شود، سرعت توسعه و بومی‌سازی مدل‌های هوشمند به شکل بی‌سابقه‌ای افزایش خواهد یافت.[4][5]

این تغییر پارادایم می‌تواند وابستگی شدید صنعت به خوشه‌های عظیم پردازشی برای هر تغییر کوچک را کاهش دهد.

در نهایت، این پژوهش نشان می‌دهد که ما هنوز در ابتدای راه کشف قابلیت‌های پنهان مدل‌های زبانی بزرگ هستیم. توانایی استدلال درباره ساختارهای ریاضی پیچیده، مرزهای جدیدی را برای خلق سیستم‌هایی باز می‌کند که می‌توانند خود و همتایانشان را به طور پیوسته ارتقا دهند.[2][5]

نکات کلیدی

  • پژوهشگران MIT نشان دادند که مدل‌های پیشرفته می‌توانند مستقیماً وزن‌های شبکه‌های عصبی دیگر را خوانده و ویرایش کنند.
  • مدل GPT-6 Astra توانست با تغییر تنها ۰.۰۱۶ درصد از وزن‌های یک مدل زبانی، توانایی ریاضی آن را شش برابر کند.
  • این روش که «برنامه‌نویسی در فضای وزن» نام دارد، نیاز به آموزش مجدد و استفاده از الگوریتم‌های سنتی مانند گرادیان کاهشی را حذف می‌کند.
  • این دستاورد علاوه بر کاهش شدید هزینه‌های پردازشی، گامی بزرگ در جهت درک و اشکال‌زدایی دقیق سیستم‌های هوش مصنوعی محسوب می‌شود.

آنچه نمی‌دانیم

  • آیا این روش ویرایش مستقیم وزن‌ها در مدل‌های بسیار بزرگ‌تر با صدها میلیارد پارامتر نیز به همین دقت عمل خواهد کرد؟
  • چگونه می‌توان از دست‌کاری مخرب و تغییرات پنهان در کدهای عصبی توسط هوش مصنوعی جلوگیری کرد؟
توسعه‌دهندگان مدل‌ها 45%تحلیل‌گران فناوری 35%تیم تحریریه کوهستان 20%
توسعه‌دهندگان مدل‌ها
معتقدند این روش هزینه‌های عظیم پردازشی برای آموزش مجدد را حذف کرده و اشکال‌زدایی هوش مصنوعی را متحول می‌کند.
تحلیل‌گران فناوری
این پیشرفت را گامی بزرگ به سوی شفافیت مدل‌ها می‌دانند، اما درباره مقیاس‌پذیری آن در مدل‌های تریلیون پارامتری محتاط هستند.
تیم تحریریه کوهستان
تأکید دارند که توانایی دست‌کاری مستقیم وزن‌ها، علاوه بر مزایا، نیازمند پروتکل‌های امنیتی جدیدی برای جلوگیری از تغییرات مخرب است.

دیدگاه‌هایی که این گزارش پوشش نداده

  • شرکت‌های ارائه‌دهنده زیرساخت‌های ابری و پردازشی که ممکن است با کاهش نیاز به آموزش سنتی متضرر شوند.

منابع

پوشش منابع

5 منبع

3 دیدگاه شناسایی‌شده

توسعه‌دهندگان مدل‌ها 45%تحلیل‌گران فناوری 35%تیم تحریریه کوهستان 20%
  1. [1]Natureتحلیل‌گران فناوری

    This AI 'mechanic' can peer inside the black box of other neural networks

    مطالعه در Nature →
  2. [2]AlphaXivتوسعه‌دهندگان مدل‌ها

    Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights

    مطالعه در AlphaXiv →
  3. [3]GitHub Pagesتوسعه‌دهندگان مدل‌ها

    Sparks of Weight-Space Programming

    مطالعه در GitHub Pages →
  4. [4]GitHub

    lm_understand-logs

    مطالعه در GitHub →
  5. [5]تیم سردبیری کوهستانتیم تحریریه کوهستان

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار هوش مصنوعی با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.