ابزار هوش مصنوعی بیش از ۲۵۰ هزار مقاله مشکوک سرطان را که به «کارخانه‌های مقاله» مرتبط هستند، علامت‌گذاری کرد

در آنچه به عنوان یکی از مهم‌ترین مداخلات برای حفظ یکپارچگی در علم مدرن توصیف می‌شود، یک ابزار هوش مصنوعی تازه توسعه‌یافته، بیش از ۲۵۰ هزار مقاله تحقیقاتی سرطان را به عنوان مقالاتی به شدت مشکوک علامت‌گذاری کرده است. این تحلیل گسترده که دهه‌ها ادبیات منتشر شده را ارزیابی کرده است، نشان می‌دهد که تقریباً از هر ده مطالعه سرطان، یک مورد ممکن است توسط شرکت‌های متقلبی که به عنوان «کارخانه‌های مقاله» شناخته می‌شوند، ساخته شده باشد. این کشف یک آسیب‌پذیری سیستمی در انتشار دانشگاهی را آشکار می‌سازد و نشان می‌دهد که تولید علم جعلی در مقیاس صنعتی حتی به مجلات پزشکی معتبر و با ضریب تأثیر بالا نیز نفوذ کرده است. محققان با به‌کارگیری یادگیری ماشینی برای اسکن میلیون‌ها چکیده و عنوان، بحرانی را که بسیاری در جامعه علمی به آن مشکوک بودند اما هرگز نتوانسته بودند در این مقیاس آن را اندازه‌گیری کنند، کمی‌سازی کرده‌اند.[1][3][4]

کارخانه‌های مقاله تحقیقاتی، سازمان‌های غیرقانونی و سودمحوری هستند که دست‌نوشته‌های علمی آماده را ساخته و به دانشگاهیانی که به شدت به افزایش سوابق انتشار خود نیاز دارند، می‌فروشند. این نهادها که به عنوان خدمات تقلب قراردادی عمل می‌کنند، تحقیقات را در مقیاس صنعتی تولید کرده و اغلب موقعیت‌های نویسندگی را به محققانی می‌فروشند که هرگز با هم کار نکرده‌اند یا هیچ مشارکت فکری در علم زیربنایی نداشته‌اند. برای به حداکثر رساندن حاشیه سود و سرعت تولید، کارخانه‌های مقاله به شدت به الگوهای کلیشه‌ای متکی هستند، متن‌ها را بازیافت می‌کنند و اصطلاحات خاص حوزه را در جملات از پیش فرمول‌بندی شده وارد می‌کنند. آنها اغلب داده‌ها را جعل می‌کنند، تصاویر را دستکاری می‌کنند و حتی به ویراستاران رشوه می‌دهند یا فرآیند بررسی همتایان را دستکاری می‌کنند تا اطمینان حاصل کنند که مقالات متقلبانه آنها پذیرفته و منتشر می‌شوند.[4][5][6]

نفوذ کارخانه‌های مقاله به تحقیقات سرطان پیامدهای عمیق و واقعی دارد که بسیار فراتر از اعتبار دانشگاهی است. تحقیقات سرطان به عنوان پایه و اساس شواهد برای آزمایش‌های بالینی، توسعه درمان‌های جدید و در نهایت، پروتکل‌های مراقبت مستقیم از بیمار عمل می‌کند. هنگامی که مطالعات ساختگی منتشر می‌شوند و متعاقباً توسط دانشمندان مشروع مورد استناد قرار می‌گیرند، می‌توانند میلیون‌ها دلار بودجه تحقیقاتی را به سمت فرضیه‌های بی‌نتیجه هدایت کنند. مهم‌تر از آن، گسترش داده‌های جعلی تهدید می‌کند که محققان واقعی را گمراه کند، کشف درمان‌های نجات‌بخش را کُند سازد و اعتماد عمومی به مؤسسات پزشکی را در زمانی که اعتماد به علم تحت نظارت شدید است، از بین ببرد.[2][4]

مقیاس بی‌سابقه این تقلب توسط یک تیم بین‌المللی از محققان به رهبری پروفسور آدریان بارنت در دانشگاه فناوری کوئینزلند (Queensland University of Technology) کشف شد. در یک مطالعه برجسته که در مجله The BMJ منتشر شد، این تیم یک مدل یادگیری ماشینی را برای تجزیه و تحلیل مجموعه عظیمی از ۲.۶ میلیون مقاله تحقیقاتی سرطان که بین سال‌های ۱۹۹۹ تا ۲۰۲۴ منتشر شده بودند، به کار گرفت. محققان به جای تکیه بر داوران انسانی – که به طور فزاینده‌ای تحت فشار حجم زیاد مقالات ارسالی هستند – از پردازش زبان طبیعی پیشرفته برای غربالگری سیستماتیک ادبیات استفاده کردند. یافته‌های آنها نشان داد که ۹.۸۷ درصد از کل مجموعه تحقیقات سرطان، ویژگی‌های متنی متمایز مرتبط با محصولات شناخته شده کارخانه‌های مقاله را نشان می‌دهند.[3][4][6]

برای شناسایی این مقالات متقلبانه، تیم تحقیقاتی یک مدل زبان بزرگ مبتنی بر BERT را آموزش داد تا «اثر انگشت‌های» متنی ظریفی را که توسط الگوهای کارخانه‌های مقاله باقی مانده‌اند، تشخیص دهد. این مدل با استفاده از مجموعه‌ای از داده‌ها شامل هزاران مقاله که قبلاً به طور رسمی پس گرفته شده و توسط پایگاه داده Retraction Watch به عنوان محصولات کارخانه مقاله برچسب‌گذاری شده بودند، آموزش دید. با تجزیه و تحلیل الگوهای ساختاری، عبارات نامناسب و نحو تکراری رایج در این دست‌نوشته‌های ساختگی، هوش مصنوعی یاد گرفت که بین نوشتار علمی واقعی و تقلب دانشگاهی تولید انبوه تمایز قائل شود. هنگامی که این مدل در برابر نمونه‌های تأیید شده آزمایش شد، به دقت پیش‌بینی ۹۱ درصد دست یافت که نشان‌دهنده کارایی بالای آن در شناسایی متن مشکوک است.[3][4][6]

پروفسور بارنت ابزار جدید هوش مصنوعی را به «فیلتر هرزنامه علمی» تشبیه کرده است که برای محافظت از یکپارچگی سوابق دانشگاهی طراحی شده است. همانطور که یک سیستم ایمیل به طور خودکار پیام‌های ناخواسته را بر اساس الگوهای شناخته شده و منشأ مشکوک علامت‌گذاری می‌کند، مدل یادگیری ماشینی مقالات تحقیقاتی را که با سبک نوشتاری و ساختار معماری کارهای متقلبانه و پس گرفته شده مطابقت دارند، علامت‌گذاری می‌کند. این فرآیند غربالگری خودکار به سیستم اجازه می‌دهد تا میلیون‌ها سند را در کسری از زمانی که کارآگاهان انسانی نیاز دارند، پردازش کند و پارادایم تشخیص تقلب را از یک واکنش پس از انتشار به یک مکانیسم دفاعی فعال و الگوریتمی تغییر می‌دهد.[1][4]

داده‌های تاریخی استخراج شده توسط ابزار هوش مصنوعی، تصویر عمیقاً نگران‌کننده‌ای از سرعت گسترش صنعت کارخانه مقاله ارائه می‌دهد. طبق این تحلیل، نسبت مقالات علامت‌گذاری شده در اوایل دهه ۲۰۰۰ نسبتاً پایین – حدود ۱ درصد – باقی ماند. با این حال، نرخ انتشارات مشکوک در طول دو دهه گذشته به صورت تصاعدی شروع به افزایش کرد و در نهایت تا سال ۲۰۲۲ به بیش از ۱۵ درصد از کل تولید سالانه تحقیقات سرطان رسید. این افزایش چشمگیر نشان می‌دهد که کارخانه‌های مقاله جاه‌طلب‌تر و پیچیده‌تر شده‌اند و عملیات خود را برای پاسخگویی به تقاضای فزاینده دانشگاهیانی که تحت فشار شدید «انتشار یا نابودی» قرار دارند، گسترش داده‌اند.[2][3][4]

نکته مهم این است که این مطالعه نشان داد محصولات کارخانه‌های مقاله محدود به انتشارات مبهم و کم‌رتبه نیستند. هوش مصنوعی تعداد قابل توجهی از مقالات مشکوک را در هزاران مجله که توسط ناشران بزرگ و معتبر مدیریت می‌شوند، علامت‌گذاری کرد، از جمله درصد فزاینده‌ای در ۱۰ درصد برتر مجلات بر اساس ضریب تأثیر. مشخص شد که این مشکل به ویژه در زمینه‌های تخصصی مانند زیست‌شناسی مولکولی سرطان و تحقیقات آزمایشگاهی اولیه متمرکز است، جایی که جعل داده‌ها و تکنیک‌ها نسبتاً ساده است. حوزه‌های خاصی از انکولوژی، از جمله تحقیقات سرطان معده، کبد، استخوان و ریه، نرخ‌های بسیار بالایی از مطالعات علامت‌گذاری شده را نشان دادند که بر ماهیت هدفمند این تقلب تأکید می‌کند.[1][4][6]

استقرار این ابزار تشخیص در یک نقطه عطف حیاتی رخ می‌دهد، زیرا پیشرفت سریع هوش مصنوعی مولد (Generative AI) تهدید می‌کند که صنعت کارخانه مقاله را تقویت کند. در حالی که اکنون از یادگیری ماشینی برای شناسایی تقلب دانشگاهی استفاده می‌شود، کارخانه‌های مقاله به طور همزمان از مدل‌های زبان بزرگ برای خودکارسازی تولید متن و تصویر استفاده می‌کنند، که تشخیص دست‌نوشته‌های ساختگی آنها را از تحقیقات واقعی دشوارتر می‌سازد. این مسابقه تسلیحاتی فناوری باعث شده است که محققان هشدار دهند که کارخانه‌های مقاله احتمالاً به الگوهای جدید و پیچیده‌تری روی خواهند آورد که از روش‌های تشخیص فعلی فرار می‌کنند. در نتیجه، جامعه علمی باید به طور مداوم ابزارهای غربالگری هوش مصنوعی خود را به‌روزرسانی و اصلاح کند تا با تاکتیک‌های در حال تحول سازمان‌های متقلب همگام شود.[2][5][6]

در پاسخ به هجوم گسترده تحقیقات ساختگی، صنعت نشر پزشکی شروع به ادغام این دفاعیات هوش مصنوعی به طور مستقیم در جریان کار ویراستاری خود کرده است. سه مجله علمی در حال حاضر ابزار توسعه‌یافته توسط QUT را به عنوان بخشی از فرآیند استاندارد غربالگری دست‌نوشته‌های خود به کار می‌گیرند. هدف این است که هوش مصنوعی در مراحل اولیه مستقر شود و به ویراستاران اجازه دهد دست‌نوشته‌های بالقوه ساختگی را قبل از ارسال برای بررسی همتایان شناسایی و رهگیری کنند. ناشران امیدوارند با شناسایی محصولات کارخانه مقاله در مرحله ارسال، بار سنگینی را که در حال حاضر بر دوش داوران داوطلب است، کاهش دهند و از ورود داده‌های متقلبانه به سوابق علمی منتشر شده جلوگیری کنند.[1][4][5]

علیرغم دقت چشمگیر مدل یادگیری ماشینی، محققان تأکید می‌کنند که هوش مصنوعی یک داور قطعی برای سوء رفتار علمی نیست. این ابزار برای ارائه سیگنال‌های هشدار طراحی شده است و مقالاتی که علامت‌گذاری می‌کند نباید به طور خودکار کنار گذاشته شوند یا به عنوان تقلب تأیید شده تلقی گردند. الگوهای متنی مشابه یا عبارات نامناسب ممکن است گاهی در تحقیقات واقعی نیز رخ دهد، به ویژه در میان نویسندگانی که انگلیسی زبان دوم آنهاست. بنابراین، هر دست‌نوشته علامت‌گذاری شده همچنان نیاز به بررسی دقیق و ظریف توسط کارشناسان انسانی دارد که می‌توانند داده‌های زیربنایی را بررسی کنند، اعتبار نویسندگان را تأیید کنند و تصمیم نهایی ویراستاری را بگیرند.[1][3][4]

در حالی که ابزارهای هوش مصنوعی یک راه‌حل فناوری قدرتمند ارائه می‌دهند، کارشناسان استدلال می‌کنند که بحران کارخانه مقاله در نهایت نشانه‌ای از نقص‌های سیستمی عمیق‌تر در دانشگاه‌های جهانی است. ماهیت رقابتی شدید علم مدرن، که با فشار شدید برای انتشار و معیارهای کمی مرتبط با پیشرفت شغلی مشخص می‌شود، یک بازار سودآور برای تحقیقات ساختگی ایجاد کرده است. در بسیاری از مؤسسات، تأمین بودجه، ارتقاء یا حتی اشتغال اولیه به شدت به انتشار حجم بالایی از مقالات در مجلات دارای داوری همتا بستگی دارد. تا زمانی که جامعه دانشگاهی ساختارهای انگیزشی خود را اصلاح نکند و وابستگی خود به تعداد انتشارات را به عنوان معیار اصلی شایستگی علمی کاهش ندهد، تقاضا برای خدمات کارخانه مقاله ادامه خواهد یافت.[5][6]

این افشاگری که صدها هزار مطالعه سرطان ممکن است ساختگی باشند، پیامدهای سیاسی و نهادی قابل توجهی را نیز به دنبال داشته است. قانون‌گذاران و کمیته‌های نظارتی دولتی به طور فزاینده‌ای از آژانس‌های فدرال در مورد تدابیر حفاظتی موجود برای جلوگیری از تأثیرگذاری مطالعات جعلی بر سیاست‌های بهداشت عمومی و تخصیص کمک‌های مالی فدرال، اطلاعات می‌خواهند. در ایالات متحده، نمایندگان کنگره نگرانی‌های خاصی را در مورد هدایت نادرست بودجه مالیات‌دهندگان و پتانسیل تحقیقات ساختگی برای به خطر انداختن رقابت علمی ملی مطرح کرده‌اند. این نظارت سیاسی بر نیاز فوری به پروتکل‌های یکپارچگی قوی و شفاف در تمام سطوح فعالیت علمی تأکید می‌کند.[2]

با نگاه به آینده، تیم تحقیقاتی قصد دارد ابزار غربالگری هوش مصنوعی خود را برای استفاده در سایر رشته‌های علمی فراتر از انکولوژی تطبیق داده و گسترش دهد، زیرا پیش‌بینی می‌کند که فعالیت کارخانه مقاله به طور مشابه در زمینه‌هایی مانند علم مواد و مهندسی کامپیوتر نیز گسترده است. همانطور که نمونه‌های تأیید شده بیشتری از محصولات کارخانه مقاله شناسایی شده و به مجموعه‌های داده آموزشی اضافه می‌شوند، انتظار می‌رود دقت و انعطاف‌پذیری این مدل‌های یادگیری ماشینی بهبود یابد. در نهایت، استقرار موفقیت‌آمیز این «فیلتر هرزنامه علمی» یک گام اولیه حیاتی در یک تلاش گسترده‌تر و جمعی برای بازیابی یکپارچگی سوابق علمی جهانی و اطمینان از اینکه پیشرفت‌های پزشکی آینده بر پایه‌ای از حقیقت بنا شده‌اند، محسوب می‌شود.[1][4][5]