مدل‌های هوش مصنوعی با داده‌های خنثی هم سوگیری می‌سازند؛ چالشی برای پارادایم آموزش

روایت غالب پیرامون هوش مصنوعی بر این فرض استوار است که سوگیری صرفاً یک مشکل در گردآوری داده‌ها است – پدیده‌ای که به طور خلاصه با ضرب‌المثل «داده‌ی بی‌کیفیت، خروجی بی‌کیفیت» (Garbage in, garbage out) بیان می‌شود. فرض بر این است که اگر توسعه‌دهندگان بتوانند داده‌های آموزشی را پاکسازی کنند، توازن جمعیتی را رعایت کرده و تعصبات تاریخی را حذف نمایند، مدل هوش مصنوعی حاصل به عنوان یک داور عینی و بی‌طرف ظاهر خواهد شد. این چارچوب، سال‌ها تلاش صنعت را برای ساخت مجموعه‌داده‌های «پاک» و اجرای حفاظ‌های سخت‌گیرانه همسوسازی هدایت کرده است.[3]

حتی زمانی که توسعه‌دهندگان تلاش می‌کنند ابزارهای پیش‌بینی‌کننده را از سوگیری پاک کنند، این سیستم‌ها اغلب همچنان نتایج نامتوازن تولید می‌کنند، زیرا به داده‌هایی متکی هستند که ذاتاً توسط واقعیت‌های تاریخی شکل گرفته‌اند. اما تحقیقات جدید فراتر می‌رود: این تحقیقات نشان می‌دهد که حتی اگر بتوانیم مجموعه‌داده‌ای کاملاً بکر و از نظر ریاضی متعادل تولید کنیم، هوش مصنوعی باز هم نتایج سوگیرانه ایجاد خواهد کرد. سوگیری فقط در داده‌ها نیست؛ بلکه در معماری بنیادی خود ماشین است. مدل‌های هوش مصنوعی صرفاً به عنوان آینه‌های منفعل که تعصبات اجتماعی انسان را منعکس می‌کنند عمل نمی‌کنند؛ بلکه به طور فعال سوگیری‌های جدیدی را خلق و تقویت می‌کنند، حتی زمانی که با داده‌های کاملاً خنثی آموزش دیده‌اند یا دستورات صریحاً خنثی دریافت کرده‌اند.[1][3][5]

برای درک اینکه چرا مدل‌ها تعصب را می‌سازند، محققان به مکانیسم‌های زیربنایی چگونگی یادگیری تعمیم در مدل‌های زبان بزرگ (LLMs) اشاره می‌کنند. مدل‌ها به «سوگیری استقرایی» (Inductive Bias) متکی هستند – یک تمایل ریاضی داخلی که به آن‌ها کمک می‌کند الگوها را تشخیص دهند و از داده‌های ناقص پیش‌بینی کنند. بدون سوگیری استقرایی، یک مدل یادگیری ماشین هرگز نمی‌توانست فراتر از مثال‌های دقیقی که با آن‌ها آموزش دیده است، تعمیم دهد؛ بلکه صرفاً گذشته را حفظ می‌کرد بدون اینکه آینده را درک کند. با این حال، این ویژگی ریاضی ضروری، هنگامی که در مورد واقعیت‌های پیچیده اجتماعی به کار می‌رود، به یک نقطه ضعف تبدیل می‌شود.