مدل‌های پیشرفته هوش مصنوعی در کارهای آزمایشگاهی از ویروس‌شناسان دکترا پیشی گرفتند؛ مانع توسعه سلاح‌های بیولوژیکی کاهش یافت

مدل‌های پیشرفته هوش مصنوعی رسماً از متخصصان انسانی در عیب‌یابی رویه‌های پیچیده آزمایشگاهی ویروس‌شناسی پیشی گرفته‌اند و این فرض دیرینه را که تجربه عملی آزمایشگاهی برای همیشه از مهندسی سلاح‌های بیولوژیکی توسط افراد بدخواه جلوگیری می‌کند، از بین برده‌اند. این پیشرفت در یک ارزیابی دقیق به نام آزمون قابلیت‌های ویروس‌شناسی (VCT) اندازه‌گیری شد که توانایی انسان‌ها و ماشین‌ها را برای حل مشکلات عملی و واقعی در تحقیقات بیولوژیکی سنجید.[1]

نتایج این ارزیابی آشکار بود. هنگامی که سؤالات عیب‌یابی بسیار خاص و متناسب با زیرشاخه‌های دقیق ویروس‌شناسان در سطح دکترا مطرح شد، آن‌ها به طور متوسط ۲۲.۱ درصد امتیاز کسب کردند. در مقابل، مدل‌های پیشرفته هوش مصنوعی مانند o3 اوپن‌ای‌آی و Gemini 2.5 Pro گوگل به نرخ دقت بین ۳۷ تا ۴۵ درصد دست یافتند.

برای درک اهمیت این موضوع، لازم است بدانیم تحقیقات بیولوژیکی در واقع چگونه کار می‌کند. از لحاظ تاریخی، مانع اصلی در ساخت یک سلاح بیولوژیکی، دسترسی به اطلاعات نبوده، بلکه فقدان «دانش ضمنی» بوده است. این به مهارت‌های عملی و دشوار برای جستجو در گوگل اشاره دارد که از طریق سال‌ها آزمون و خطا در میز آزمایشگاه به دست می‌آید.[7]

اگر یک فرد مبتدی تلاش کند ویروسی را سنتز کند و آزمایش شکست بخورد، دانش کتابی به ندرت برای شناسایی مشکل کافی است. این شکست می‌تواند ناشی از یک معرف (ریجنت) فاسد شده، سرعت نادرست سانتریفیوژ، یا نوسان جزئی دما باشد. تا کنون، تشخیص و رفع این خطاهای مکانیکی و شیمیایی نیازمند یک متخصص انسانی باتجربه بود.[1][7]

مدل‌های هوش مصنوعی مدرن اکنون قادرند به عنوان دستیاران آزمایشگاهی در سطح متخصص و بدون قضاوت عمل کنند. هنگامی که داده‌هایی در مورد یک پروتکل شکست‌خورده به آن‌ها داده می‌شود، این سیستم‌ها می‌توانند فوراً خطای احتمالی را شناسایی کرده و دستورالعمل‌های گام به گام برای اصلاح آن ارائه دهند. این قابلیت به طور مؤثری دانش ضمنی را به افرادی منتقل می‌کند که هرگز پا به یک آزمایشگاه با سطح مهار بالا نگذاشته‌اند.[2]

کارشناسان امنیت زیستی این پدیده را «ارتقاء مبتدی» (Novice Uplift) می‌نامند. ترس اصلی این است که یک عامل مخرب تنها با آموزش پایه در علوم، فناوری، مهندسی یا ریاضیات بتواند از هوش مصنوعی برای دور زدن سال‌ها تجربه تخصصی که معمولاً برای تسلیح یک عامل بیماری‌زا لازم است، استفاده کند.[2][4]

مطالعات انجام شده توسط شرکت‌های هوش مصنوعی و سازمان‌های غیرانتفاعی امنیت زیستی این خطر را تأیید کرده است. در یک آزمایش، به افرادی با تجربه محدود در زیست‌شناسی، دسترسی به مدل‌های زبان بزرگ داده شد و از آن‌ها خواسته شد تا وظایف مرتبط با امنیت زیستی را تکمیل کنند. کمک هوش مصنوعی به این افراد مبتدی اجازه داد تا پروتکل‌های پیچیده ویروس‌شناسی را با دقتی چهار برابر بیشتر از زمانی که به تنهایی کار می‌کردند، عیب‌یابی کنند.[2]

تیم‌های قرمز داخلی (Red-teaming) توسعه‌دهندگان بزرگ هوش مصنوعی نیز یافته‌های مشابهی داشته‌اند. شرکت‌هایی مانند آنتروپیک (Anthropic) گزارش داده‌اند که مدل‌های آن‌ها عملکرد انسانی را در وظایف مرتبط با سلاح به اندازه‌ای افزایش داده که باعث شده طبقه‌بندی سطح ایمنی هوش مصنوعی بالاتری را فعال کند و پروتکل‌های امنیتی داخلی سخت‌گیرانه‌تر و استقرار با تأخیر را ضروری سازد.[6]

با این حال، این اساساً یک معمای استفاده دوگانه است. دقیقاً همان قابلیت‌های عیب‌یابی که این مدل‌ها را به یک تهدید امنیتی بالقوه تبدیل می‌کند، همان‌هایی هستند که آن‌ها را برای پیشرفت علمی مشروع فوق‌العاده مفید می‌سازند.[5]

سیستم‌های هوش مصنوعی در حال حاضر کشف دارو، ساده‌سازی توسعه واکسن و بهبود تشخیص بیماری را تسریع می‌کنند. اگر سیاست‌گذاران توسعه‌دهندگان را مجبور کنند که مدل‌های خود را برای جلوگیری از توسعه سلاح‌های بیولوژیکی محدود کنند، خطر این وجود دارد که به طور همزمان ایجاد همان پادزرهایی را که برای مبارزه با همه‌گیری‌های طبیعی مورد نیاز است، کُند سازند.[4]

علاوه بر این، برخی دانشمندان استدلال می‌کنند که تهدید فوری یک سلاح بیولوژیکی تولید شده توسط هوش مصنوعی بیش از حد بزرگنمایی شده است. در حالی که هوش مصنوعی می‌تواند دستورالعمل‌ها را ارائه دهد، نمی‌تواند یک ویروس را به صورت فیزیکی سنتز کند. یک عامل مخرب همچنان به دسترسی به مواد ژنتیکی خام، تجهیزات آزمایشگاهی تخصصی و زیرساخت‌های فیزیکی نیاز دارد.[3]

دکتر تام الیس، کارشناس زیست‌شناسی مصنوعی، خاطرنشان کرد: «تهدید ناشی از طراحی کامل و نوشتن ژنوم یک ویروس یا باکتری توسط هوش مصنوعی بسیار اغراق‌آمیز است، در حالی که در نظر بگیریم که گرفتن عوامل بیماری‌زای موجود و ایجاد تغییرات افزایش عملکرد (gain-of-function) در ژنوم آن‌ها بسیار آسان‌تر است.» وی تأکید کرد که طبیعت در حال حاضر عوامل بیماری‌زای بسیار مؤثری را فراهم می‌کند.[3]

حیاتی‌ترین گلوگاه فیزیکی، سنتز DNA است. برای ساخت یک ویروس از ابتدا، کاربر باید توالی‌های ژنتیکی سفارشی را از ارائه‌دهندگان تجاری سفارش دهد. در حال حاضر، غربالگری این DNA مصنوعی برای اطمینان از اینکه برای ساخت عوامل بیماری‌زای شناخته‌شده استفاده نمی‌شود، در بسیاری از حوزه‌های قضایی عمدتاً داوطلبانه باقی مانده است.[3][7]

موضوع را پیچیده‌تر می‌کند، محققان نشان داده‌اند که مدل‌های هوش مصنوعی می‌توانند «طرح‌های ژنتیکی» پروتئین‌های خطرناک را بازنویسی کنند. هوش مصنوعی با بازنویسی توالی DNA در حالی که ساختار کشنده را حفظ می‌کند، می‌تواند یک توالی جدید تولید کند که از نرم‌افزار غربالگری استاندارد صنعت فرار کند و به یک عامل بدخواه اجازه دهد تا اجزای لازم را بدون شناسایی سفارش دهد.[7]

در پاسخ به این خطرات همگرا، چشم‌انداز نظارتی به سرعت در حال تغییر است. سازمان‌هایی مانند OECD و مؤسسات ملی ایمنی هوش مصنوعی در حال فشار برای ارزیابی‌های بیولوژیکی استاندارد شده و پیش از استقرار برای همه مدل‌های پیشرفته هستند.[5]

بحث اکنون بر این متمرکز است که کجا باید مؤثرترین مداخله صورت گیرد. در حالی که برخی از محدودیت‌های سختگیرانه قابلیت‌ها بر خود مدل‌های هوش مصنوعی حمایت می‌کنند، برخی دیگر از یک رویکرد لایه‌ای دفاع می‌کنند. این رویکرد شامل غربالگری اجباری برای تمام سفارشات سنتز DNA، کنترل‌های سخت‌تر بر تجهیزات آزمایشگاهی و سیستم‌های هشدار اولیه بهبود یافته برای تهدیدات بیولوژیکی خواهد بود.[3][4]

همانطور که مدل‌های هوش مصنوعی به مقیاس خود ادامه می‌دهند، انتظار می‌رود نابرابری در تخصص ویروس‌شناسی بین انسان‌ها و ماشین‌ها گسترش یابد. چالش برای حاکمیت جهانی این خواهد بود که گلوگاه‌های فیزیکی تحقیقات بیولوژیکی را قبل از اینکه موانع دیجیتالی به طور کامل ناپدید شوند، ایمن سازد.[1][6]