یافته‌های تحقیقاتی MIT: با بزرگ شدن مدل‌های هوش مصنوعی، ردیابی خروجی به داده‌های آموزشی غیرممکن می‌شود و دعاوی حق نشر را پیچیده می‌کند

برای هنرمندانی که تلاش می‌کنند از مجموعه‌ آثار خود محافظت کنند و شرکت‌های فناوری که می‌کوشند از مسئولیت‌های کلان بگریزند، سؤال اصلی در عصر هوش مصنوعی مولد ظاهراً ساده بوده است: وقتی یک مدل تصویری تولید می‌کند، دقیقاً کدام تصاویر آموزشی این خروجی را ممکن ساخته‌اند؟

فرض غالب در دعاوی حقوقی جاری حق نشر این بوده است که با ابزارهای پزشکی قانونی مناسب، هر خروجی تولید شده در نهایت می‌تواند به داده‌های منبع خود ردیابی شود و ثابت کند که آیا اثر یک خالق خاص کپی شده یا به شدت نمونه‌برداری شده است. این مدل ذهنی، تولید هوش مصنوعی را به عنوان شکلی بسیار پیچیده از کلاژ پنهان در نظر می‌گیرد که در آن هر پیکسل، اگر به اندازه کافی جستجو شود، می‌تواند به یک منشأ انسانی نگاشت شود.[2][3]

اما یک مطالعه جدید از محققان آزمایشگاه علوم کامپیوتر و هوش مصنوعی (CSAIL) در MIT نشان می‌دهد که برای مدل‌هایی که با مجموعه‌های داده عظیم آموزش دیده‌اند، این ارتباط پزشکی قانونی به سادگی از بین می‌رود. محققان، به رهبری ژنگ دای (Zheng Dai) و دیوید گیفورد (David Gifford)، پدیده‌ای ریاضی را شناسایی کردند که آن را «زوال انتساب» می‌نامند.

یافته‌های آن‌ها نشان می‌دهد که با بزرگ شدن مدل‌های مولد و جذب داده‌های بیشتر، تأثیر علّی هر نمونه آموزشی منفرد بر یک خروجی معین، کاهش می‌یابد تا جایی که عملاً غیرقابل اندازه‌گیری می‌شود. محققان استدلال می‌کنند که مسئله این نیست که ابزارهای ردیابی فعلی ناکافی هستند، بلکه پیوند علّی در مقیاس بزرگ دیگر وجود ندارد.[1][4][5]

برای اثبات این موضوع، تیم باید بر یک مانع محاسباتی عظیم غلبه می‌کرد که مدت‌هاست تحقیقات انتساب داده را به چالش کشیده است. به طور معمول، آزمایش تأثیر یک تصویر منفرد مستلزم آموزش مجدد کل مدل بدون آن تصویر خاص است تا مشخص شود خروجی چگونه تغییر می‌کند—کاری که برای مجموعه‌های داده حاوی میلیون‌ها نمونه، از نظر ریاضی غیرممکن است. برای دور زدن این مشکل، محققان یک معماری جدید به نام «آنسامبل انتشار» (Diffusion Ensemble) ساختند.

این سیستم به جای یک مدل یکپارچه، از اجزای کوچک‌تر متعددی تشکیل شده است که هر کدام بر روی بخش متفاوتی از مجموعه داده کلی آموزش دیده‌اند. این طراحی ماژولار به آن‌ها اجازه داد تا بخش‌هایی از مدل را که یک تصویر خاص را دیده بودند، به صورت جراحی غیرفعال کنند و خروجی ضدواقعی (Counterfactual Output) دقیق را بدون نیاز به آموزش مجدد کامل، بازتولید کنند.[1][4]

محققان این معماری آنسامبل را در ۲۴ مدل انتشار مختلف به کار گرفتند و آن‌ها را بر روی مجموعه‌های داده‌ای آموزش دادند که از ۲۵۶ تصویر تا بیش از ۱۶۰,۰۰۰ تصویر متغیر بودند. داده‌های حاصل، یک قانون توان معکوس واضح و ثابت را آشکار کرد: با افزایش اندازه مجموعه داده، تأثیر هر تصویر منفرد به شدت کاهش می‌یابد.

محققان دریافتند که در مقیاس کافی، می‌توانند یک تصویر منفرد، کل مجموعه آثار یک هنرمند خاص، یا هر عکس از یک شخص معین را حذف کنند، و خروجی تولید شده به طور قابل توجهی تغییر نخواهد کرد. محققان استدلال می‌کنند که اگر حذف یک قطعه داده هیچ تغییری در تصویر نهایی ایجاد نکند، منطقاً نمی‌توان آن قطعه را مسئول آن خروجی دانست.[1][2][3][5]

در حالی که شواهد تجربی برای زوال انتساب در محدوده آنسامبل‌های انتشار این مطالعه قوی است، محققان در مورد محدودیت‌های یافته‌های خود صریح هستند. آن‌ها حدس می‌زنند که این زوال به این دلیل رخ می‌دهد که ویژگی‌های بصری به صورت زائد در سراسر مجموعه‌های داده بزرگ کدگذاری می‌شوند—به این معنی که هیچ تصویر منفردی «دی‌ان‌ای» منحصر به فرد یک خروجی تولید شده را در خود ندارد—اما آن‌ها این را به عنوان بهترین توضیح در نظر می‌گیرند نه یک مکانیسم اثبات شده.

علاوه بر این، این مطالعه ادعا نمی‌کند که مدل‌های مولد هرگز کپی نمی‌کنند؛ حفظ کردن نمونه‌های آموزشی خاص همچنان می‌تواند رخ دهد، به ویژه اگر یک تصویر به شدت تکراری یا بیش از حد در داده‌های آموزشی نمایش داده شده باشد.[2][3]

این یافته‌ها مستقیماً قلب دعاوی حقوقی جاری حق نشر علیه توسعه‌دهندگان بزرگ هوش مصنوعی را هدف قرار می‌دهد، جایی که شاکیان به دنبال مسئول دانستن شرکت‌ها برای تولید سبک‌ها یا موضوعات قابل تشخیص بوده‌اند. بسیاری از این دعاوی بر استدلال حقوقی متکی هستند که تصاویر تولید شده، آثار مشتق شده (Derivative Works) از تصاویر آموزشی خاص هستند.

اگر بتوان کل مجموعه آثار یک هنرمند را از مجموعه آموزشی حذف کرد بدون اینکه خروجی‌های مدل به هیچ وجه معنی‌داری تغییر کند، اثبات یک پیوند علّی مستقیم بین اثر دارای حق نشر شاکی و یک تولید خاص هوش مصنوعی، بسیار دشوار می‌شود. برای شرکت‌های هوش مصنوعی، این تحقیق شواهد ریاضی ملموسی را علیه مقصر شناخته شدن برای خروجی‌های خاص فراهم می‌کند و به طور بالقوه یکی از ستون‌های اصلی ادعاهای فعلی نقض حق نشر را تضعیف می‌سازد.[2][5]

با این حال، این تحقیق بحث‌های شدیدی را در سراسر اکوسیستم هوش مصنوعی در مورد اینکه این واقعیت ریاضی در عمل چه چیزی را حل می‌کند، برانگیخته است. تحلیلگران حقوقی به سرعت اشاره می‌کنند که در حالی که زوال انتساب، ادعاهای کپی‌برداری مستقیم خروجی را پیچیده می‌کند، اما به سؤال اساسی در مورد اینکه آیا جمع‌آوری آثار دارای حق نشر برای ساخت مدل‌ها از ابتدا قانونی بوده است یا خیر، نمی‌پردازد.

عمل جذب داده یک میدان نبرد حقوقی جداگانه از عمل تولید است. در جوامع آنلاین و انجمن‌های توسعه‌دهندگان، برخی ناظران استدلال می‌کنند که حتی اگر انتساب فردی از نظر ریاضی غیرممکن باشد، مدل‌ها اساساً محصولات مجموعه داده آموزشی جمعی باقی می‌مانند. از این منظر، ناتوانی در ردیابی منابع به عنوان یک ویژگی راحت در طراحی فناوری دیده می‌شود، نه تبرئه‌ای برای شیوه‌های داده‌ای آن.[2][6]

در نهایت، مطالعه MIT ما را مجبور می‌کند تا نحوه درک خلاقیت ماشینی و منشأ داده‌ها در عصر مولد را به طور اساسی بازنگری کنیم. با نشان دادن اینکه خروجی‌های هوش مصنوعی می‌توانند از الگوهای انتزاعی توزیع شده در هزاران تصویر، بدون اتکا به هیچ منبع واحدی، پدید آیند، این تحقیق نشان می‌دهد که در مقیاس بزرگ، مدل‌ها در حال سنتز مفاهیم گسترده هستند نه کلاژ کردن پیکسل‌های خاص.

این امر پارادایم را از مشاهده هوش مصنوعی به عنوان یک موتور بازیابی، به مشاهده آن به عنوان یک سنتزکننده الگو تغییر می‌دهد. همانطور که مدل‌های تجاری همچنان به میلیاردها پارامتر رشد می‌کنند، پدیده زوال انتساب تنها برجسته‌تر خواهد شد و دادگاه‌ها، هنرمندان و سیاست‌گذاران را وامی‌دارد تا بفهمند چگونه مالکیت، اعتبار و مسئولیت را در جایی که مسیر ریاضی کاملاً سرد می‌شود، تعیین کنند.[1][3][4]