هشدار دانشمند ارشد تنسنت: مدلهای هوش مصنوعی در آستانه عبور از مرز خطرات بیولوژیکی
یائو شونیو، مدیر بخش هوش مصنوعی تنسنت، هشدار داد که توانایی مدلهای زبانی در حوزه زیستشناسی بهزودی به سطحی میرسد که امکان طراحی پاتوژنها و آسیبهای واقعی را فراهم میکند. این اظهارات تنها چند روز پس از عرضه مدل جدید Hy4 با فیلترهای امنیتی سختگیرانه مطرح شد.
به قلم آیدا امینی
این خبر را به اشتراک بگذارید
یائو شونیو، دانشمند ارشد هوش مصنوعی در شرکت تنسنت، روز شنبه در یک سخنرانی نادر عمومی در هنگکنگ، زنگ خطر را برای آینده این فناوری به صدا درآورد. او هشدار داد که مدلهای پیشرفته بهزودی میتوانند آسیبهای فیزیکی جبرانناپذیری ایجاد کنند.[1][2]
این پژوهشگر ۲۹ ساله که پیش از پیوستن به تنسنت در دسامبر ۲۰۲۵، یک سال را در شرکت اوپنایآی گذرانده بود، در سمپوزیوم علمی مشترک آکادمی علوم هنگکنگ صحبت میکرد. تمرکز اصلی او بر عبور قریبالوقوع هوش مصنوعی از مرزهای امنیتی بود.[1][2]
یائو در این نشست با اشاره به سرعت پیشرفت الگوریتمها گفت: «تواناییهای سایبری مدلهای هوش مصنوعی و بهزودی تواناییهای بیولوژیکی آنها به آستانهای خواهند رسید که در آن ایجاد آسیب واقعی کاملاً امکانپذیر است.»[1][2]
این اظهارات صریح تنها چند روز پس از آن بیان شد که تنسنت در ۴ نوامبر ۲۰۲۶، مدل پرچمدار جدید خود به نام Hy4 را به بازار عرضه کرد. این مدل به عنوان یکی از قدرتمندترین سیستمهای متنباز در چین شناخته میشود.[2][3][4]
یائو تاکید کرد که مدیریت خطرات بیولوژیکی بسیار پیچیدهتر از تهدیدات سایبری است. در حالی که حملات هکری در محیطهای دیجیتال رخ میدهند، طراحی پاتوژنهای جدید یا سلاحهای زیستی میتواند مستقیماً سلامت عمومی جهان را به خطر بیندازد.[1][2]
رویکرد دفاعی در آموزش مدلها
شرکت تنسنت در توسعه مدل Hy4 تلاش کرده است تا رویکردی کاملاً محتاطانه و مبتنی بر ایمنی اتخاذ کند. بر اساس گزارشهای منتشر شده، این مدل در رتبهبندی موسسه «آرتیفیشال آنالیسیس» جایگاه دومین مدل برتر چینی را به خود اختصاص داده است.[1][2]
مهندسان تنسنت برای جلوگیری از سوءاستفادههای احتمالی، دادههای مربوط به حملات سایبری تهاجمی را به طور کامل از فرآیند آموزش مدل حذف کردند. این حذفیات شامل کدهای مربوط به توسعه بدافزار، مهندسی معکوس و تست نفوذ شبکهها بود.[2][3][4]
در عوض، مدل Hy4 منحصراً با استفاده از دادههای امنیت سایبری دفاعی آموزش دیده است. این دادهها بر شناسایی آسیبپذیریهای نرمافزاری، تولید اثبات مفهوم برای خطاهای امنیتی و ارائه وصلههای ترمیمی تمرکز دارند.[2][3][4]
تنسنت در بیانیه رسمی خود اعلام کرد: «ما محتوای تهاجمی را فیلتر کردیم تا از تقویت تواناییهای مخرب جلوگیری کنیم. ما به رویکردی مسئولانهتر در آموزش، متنباز کردن و انتشار مدلها متعهد هستیم.»[4]
برای اطمینان از اثربخشی این فیلترها، متخصصان آزمایشگاههای امنیتی «شوانوو» و «کین» در تنسنت، حملات شبیهسازیشدهای را علیه مدل اجرا کردند. نتایج نشان داد که Hy4 هیچ خطر فزایندهای در زمینه شکستن رمزنگاری یا سوءاستفاده از آسیبپذیریها ایجاد نمیکند.[4]
سنجش آستانه خطرات زیستی
پرسش اساسی در ارزیابی مدلهای زبانی این است که آیا آنها صرفاً دانش تئوری را بازگو میکنند یا میتوانند پروتکلهای عملیاتی برای آزمایشگاهها بنویسند؟ تفاوت این دو، مرز بین یک دانشنامه پزشکی و یک سلاح بیولوژیکی است.[4]
تنسنت برای سنجش این توانایی، مدل Hy4 را تحت ارزیابیهای دقیق داخلی قرار داد. آنها از یک معیار سنجش تخصصی به نام Hy-BioExperimentBench استفاده کردند تا توانایی مدل در طراحی آزمایشهای بیولوژیکیِ پایانباز را اندازهگیری کنند.[4]
نتایج این ارزیابی نشان داد که مدل Hy4 نمره ۳۰.۴ از ۱۰۰ را در این آزمون پرخطر کسب کرده است. این عدد ثابت میکند که قابلیتهای مدل در حال حاضر بسیار پایینتر از آستانه خطرناک تعیینشده قرار دارد.[4]
کارشناسان داخلی تنسنت با بررسی مسیرهای استدلال این مدل دریافتند که اگرچه Hy4 درک عمیقی از مبانی زیستشناسی دارد، اما توانایی آن برای تبدیل این دانش به دستورالعملهای آزمایشگاهیِ قابل اجرا، هنوز بسیار محدود است.[4]
با این وجود، هشدار یائو نشان میدهد که این محدودیتها دائمی نیستند. با افزایش حجم دادهها و قدرت پردازشی، مدلهای نسل بعدی ممکن است این شکاف بحرانی را پر کرده و به ابزارهایی برای طراحی پاتوژنهای خطرناک تبدیل شوند.[1]
آزمایشگاههای علمی خودکار
فراتر از بحث خطرات، تنسنت سرمایهگذاری عظیمی روی استفاده از هوش مصنوعی برای پیشبرد مرزهای علم انجام داده است. یائو در سخنرانی خود چشمانداز این شرکت برای ساخت «آزمایشگاههای علمی خودکار» را ترسیم کرد.[1][2]
این آزمایشگاههای مفهومی قرار است از سیستمهای هوش مصنوعی برای اجرای صفر تا صد فرآیندهای پیچیده علمی استفاده کنند. در این سیستمها، عاملهای هوشمند میتوانند فرضیه بسازند، ابزارهای آزمایشگاهی را کنترل کنند و نتایج را تحلیل نمایند.[1][2]
یکی از کاربردهای کلیدی که یائو به آن اشاره کرد، فرآیند «تاخوردگی معکوس پروتئین» است. این تکنیک محاسباتی میتواند زمان و هزینه لازم برای کشف داروهای جدید و درمان بیماریهای لاعلاج را به شدت کاهش دهد.[1][2]
یائو در جمع دانشجویان علوم کامپیوتر با ابراز خوشبینی به آینده این فناوری گفت: «من فکر میکنم تمام چالشهای فنی قابل حل هستند و این تنها مسئله زمان است که ما به این سطح از اتوماسیون برسیم.»[1]
با این حال، او تاکید کرد که فناوری تنها نیمی از معادله است. یائو افزود: «به نظر من چالش بزرگتر، ابعاد اجتماعی و سازمانی این فناوری است و اینکه نهادها چگونه با این تغییرات سازگار خواهند شد.»[1]
چالش مدلهای متنباز
یکی از داغترین بحثها در جامعه هوش مصنوعی، انتشار عمومی وزنهای مدل است. یائو تاکید کرد که شرکتهای چینی توسعهدهنده مدلهای متنباز باید مسئله ایمنی را با جدیت بسیار بیشتری دنبال کنند.[1][2]
برخلاف سرویسهای ابری که شرکت سازنده میتواند در صورت مشاهده رفتار مخرب، دسترسی کاربر را قطع کند، یک مدل متنباز پس از دانلود توسط افراد سودجو، دیگر قابل کنترل یا محدودسازی نیست.[1]
با وجود این خطرات، یائو استدلال کرد که بستن کامل درهای توسعه هوش مصنوعی راهکار مناسبی نیست. او معتقد است که ترکیبی از مدلهای باز و بسته میتواند بهترین اکوسیستم را برای پیشرفت ایمن فراهم کند.[2]
دلیل این امر آن است که مدلهای متنباز به پژوهشگران مستقل و دانشگاهی اجازه میدهند تا ابزارهای دفاعی قدرتمندی بسازند. این ابزارها برای مقابله با تهدیدات سایبری و بیولوژیکیِ ایجادشده توسط بازیگران مخرب، کاملاً ضروری هستند.[2]
در همین راستا، تنسنت متعهد شده است که در روزهای آینده وزنهای مدل Hy4 را به همراه یک گزارش جامع از ارزیابیهای ایمنی سایبری و بیولوژیکی آن، در دسترس عموم پژوهشگران قرار دهد.[1][2][3][4]
چشمانداز قانونگذاری و امنیت
هشدارهای یائو در یک بستر صنعتی گستردهتر مطرح میشود. تنها چند هفته پیش از این رویداد، غولهای فناوری چین از جمله تنسنت، هواوی و علیبابا در کنفرانس جهانی اینترنت در ووژن، گزارشی درباره ایمنی هوش مصنوعی منتشر کردند.[1]
در آن گزارش به صراحت هشدار داده شده بود که افزایش توانایی سیستمهای هوش مصنوعی در وظایفی مانند طراحی پاتوژنها، در حال ایجاد خطرات عمدهای برای سلامت عمومی در سطح جهانی است.[1]
یائو همچنین خاطرنشان کرد که فاصله فنی میان مدلهای چینی و همتایان آمریکایی آنها دیگر چندان زیاد نیست. این برابری نشان میدهد که تدوین استانداردهای جهانی برای امنیت زیستی به یک ضرورت فوری تبدیل شده است.[1]
با گذار هوش مصنوعی از یک ابزار صرفاً دیجیتال به موتوری برای تغییرات فیزیکی در زیستشناسی، تمرکز قانونگذاران باید از ارائه وصلههای نرمافزاری به نظارت بر سنتز مواد در آزمایشگاههای فیزیکی معطوف شود.[1]
نکات کلیدی
- یائو شونیو در نشست علمی هنگکنگ اعلام کرد توانایی بیولوژیکی مدلها بهزودی مانند مهارتهای سایبری به آستانه خطرناکی میرسد.
- تنسنت در آموزش مدل جدید Hy4، دادههای مربوط به حملات سایبری و طراحی آزمایشهای خطرناک زیستی را حذف کرده است.
- مدل Hy4 در آزمونهای داخلی طراحی آزمایشهای بیولوژیکی نمره ۳۰.۴ از ۱۰۰ را کسب کرد که نشان میدهد هنوز قادر به اجرای پروتکلهای عملی نیست.
- تنسنت در حال توسعه «آزمایشگاههای علمی خودکار» برای شبیهسازی فرآیندهای پیچیده مانند تاخوردگی معکوس پروتئین است.
آنچه نمیدانیم
- هنوز مشخص نیست که آیا فیلتر کردن دادههای آموزشی میتواند به طور قطعی مانع از ترکیب اطلاعات پایه زیستشناسی برای تولید دستورالعملهای خطرناک شود یا خیر.
- معیارهای دقیق و مستقل برای سنجش توانایی مدلها در تبدیل دانش تئوری به پروتکلهای آزمایشگاهی عملی هنوز در سطح جهانی استاندارد نشدهاند.
- نحوه واکنش قانونگذاران چینی و بینالمللی به انتشار وزنهای متنباز مدلهایی که در مرز تواناییهای بیولوژیکی قرار دارند، در هالهای از ابهام است.
روند رویداد
نوامبر ۲۰۲۵
یائو شونیو پس از یک سال فعالیت در شرکت اوپنایآی به عنوان دانشمند ارشد به تنسنت پیوست.
۴ نوامبر ۲۰۲۶
تنسنت مدل پرچمدار جدید خود به نام Hy4 را با تمرکز بر امنیت و حذف دادههای تهاجمی منتشر کرد.
۶ نوامبر ۲۰۲۶
تنسنت نتایج ارزیابیهای امنیتی Hy4 را منتشر کرد که نشان میداد این مدل در طراحی آزمایشهای بیولوژیکی محدودیت دارد.
۸ نوامبر ۲۰۲۶
یائو شونیو در آکادمی علوم هنگکنگ درباره خطرات قریبالوقوع مدلهای متنباز در حوزه زیستشناسی هشدار داد.
- پژوهشگران امنیت زیستی
- متخصصان امنیت هشدار میدهند که کنترل خطرات بیولوژیکی بسیار دشوارتر از تهدیدات سایبری است.
- توسعهدهندگان مدلهای متنباز
- طرفداران دسترسی آزاد معتقدند شفافیت به کشف سریعتر آسیبپذیریها کمک میکند.
- شرکتهای تجاری هوش مصنوعی
- شرکتهای بزرگ فناوری به دنبال ایجاد تعادل بین نوآوری علمی و مسئولیتپذیری شرکتی هستند.
دیدگاههایی که این گزارش پوشش نداده
- نهادهای قانونگذار دولتی
- متخصصان اخلاق پزشکی
منابع
[1]South China Morning Postپژوهشگران امنیت زیستیTencent AI chief warns models will soon pose biology risks
مطالعه در South China Morning Post →
[2]The Next Webتوسعهدهندگان مدلهای متنبازTencent AI chief warns models will soon pose biology risks, SCMP reports
مطالعه در The Next Web →
[3]The Edge Malaysiaشرکتهای تجاری هوش مصنوعیChinese tech giant Tencent releases Hy4 with safety safeguards
مطالعه در The Edge Malaysia →
[4]Tencent AIشرکتهای تجاری هوش مصنوعیIntroducing Hy4
مطالعه در Tencent AI →
بیشتر در فناوری
مشاهده همه →رگولاتوری هوش مصنوعی
پایان تعارف استرالیا با غولهای فناوری؛ تشکیل نهاد ناظر هوش مصنوعی پس از نفوذ ایجنت OpenAI به پرتال خدمات درمانی
5 منبع
حاکمیت هوش مصنوعی
چارچوب نظارتی چین برای هوش مصنوعی؛ کنترل جامع از دادههای آموزشی تا استقرار نهایی
9 منبع
امنیت هوش مصنوعی
مقاومت مدل جدید دیپسیک در برابر خاموش شدن؛ چالش کنترل در آزمونهای امنیتی
5 منبع
تفسیرپذیری مکانیکی
سنجش حقیقتگویی در ترنسفورمرها؛ کاوشگرهای خطی چگونه بدون بازآموزی وزنها به لایههای پنهان نفوذ میکنند؟
3 منبع
نظرات
هر زاویه. هر روز.
اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاهها، هر روز و رایگان.





