هشدار آنتروپیک: کرم‌های خودتکثیرشونده هوش مصنوعی ممکن است دستگاه‌های هوشمند را هدف بگیرند

در شرایطی که بیش از ۱۷.۴ میلیارد گجت متصل به شبکه در سراسر جهان فعال هستند، نسلی نوین از کرم‌های بدافزاری هوش مصنوعی می‌توانند بدون ارتباط با سرورهای مرکزی میان آنها منتشر شوند. پژوهشگران شرکت آنتروپیک در ۱۲ اکتبر سازوکار نظری مدلی را منتشر کردند که نشان می‌دهد چگونه مدل‌های سبک هوش مصنوعی امکان خودتکثیری روی این شبکه گسترده و بدون حصار را خواهند داشت.[1][2]

این پژوهش ساختاری تئوریک را توضیح می‌دهد که در آن عامل‌های خودمختار از دستگاهی به دستگاه دیگر می‌روند و به‌جای پردازش ابری، از توان محاسباتی بومی هر گجت بهره می‌برند. سازوکار این شیوه شباهت زیادی به ویروس‌های زیستی دارد و به کدهای مخرب اجازه می‌دهد در سکوت کامل از طریق رهیاب‌های خانگی، دوربین‌های حفاظتی و لوازم آشپزخانه هوشمند پخش شوند.[1][3]

پایگاه هکر نیوز گزارش داده که این مدل‌های به‌شدت فشرده ممکن است به‌زودی «بات‌نت‌های اینترنت اشیای خودتکثیرشونده» ایجاد کنند که کاملاً در سایه فعالیت می‌کنند. تیم تحقیقاتی تأکید کرده که اگرچه این سناریو هنوز آزمایشی است، اما شتاب فزاینده کوچک‌سازی مدل‌های هوش مصنوعی — که حجم برخی از آنها به زیر ۳ میلیارد پارامتر رسیده — عملیاتی شدن آن را اجتناب‌ناپذیر می‌کند.[1][3]

در حال حاضر، مدل‌های زبانی بزرگ برای پردازش به مزارع سروری عظیم مجهز به تراشه‌های گرافیکی تخصصی وابسته‌اند. با این حال، تلاش فراگیر صنعت فناوری برای اجرای محلی و بدون اینترنت این مدل‌ها روی سخت‌افزارهای تجاری، ناخواسته بستر محاسباتی لازم را برای بهره‌برداری این رده از آسیب‌پذیری‌ها فراهم کرده است.[4][5]

سازوکار کپک مخاطی دیجیتال

نشریه بیزنس اینسایدر این تهدید فرضی را شبیه به «کپک مخاطی دیجیتال» توصیف کرده که می‌تواند روی شبکه‌های محلی بلغزد و ظرفیت‌های پردازشی دستگاه‌های آلوده را با یکدیگر ترکیب کند. بر خلاف بدافزارهای کلاسیک که مجموعه‌ای از دستورهای از‌پیش‌تعیین‌شده را اجرا می‌کنند، کرم‌های هوش مصنوعی قابلیت بازنویسی پویا و متناسب‌سازی کد با دیوارهای امنیتی هر میزبان را دارند.[5]

وقتی عاملی هوشمند کنترل دستگاهی را به دست بگیرد، ابتدا پیکربندی و توان سخت‌افزاری آن را ارزیابی می‌کند تا بهینه‌ترین راه ورود به سامانه‌های همسایه را پیدا کند. این عامل می‌تواند پروتکل‌های نفوذ خود را حین اجرا بازنویسی کرده و با درس گرفتن از تلاش‌های ناموفق قبلی، ضریب موفقیت خود را در برابر سایر گجت‌های مشابه در همان شبکه بالا ببرد.[1][3]

این ویژگی تطبیق‌پذیری، تفاوت ماهوی این سناریو با بات‌نت‌های تاریخی مانند حمله میرای در سال ۲۰۱۶ را آشکار می‌سازد که صرفاً بر پایگاه‌های داده رمزهای عبور کارخانه‌ای متکی بود. یک بدافزار خودگردان می‌تواند سفت‌افزار دستگاه میزبان را ارزیابی کند، رخنه‌های امنیتی روز-صفر را بدون راهنمایی انسان شناسایی نماید و اکسپلویت‌های دست‌ساز خود را تولید کند.[3][4]

انجام کامل محاسبات به‌صورت محلی باعث می‌شود دستگاه‌های نفوذیافته دیگر به دریافت فرامین از سرورهای فرماندهی مرکزی نیازی نداشته باشند. چنین ساختار همتا‌به‌همتایی الگوهای متداول ترافیک خروجی به سمت سرورها را خنثی می‌سازد؛ همان نشانه‌هایی که صنعت ۲۰۰ میلیارد دلاری امنیت سایبری برای رصد و از کار انداختن بات‌نت‌ها بدان وابسته است.[3]

سپر موقت محدودیت‌های سخت‌افزاری

با وجود این سناریوهای نگران‌کننده در گزارش آنتروپیک، تجهیزات الکترونیکی مصرفی فعلی از لحاظ حافظه رم و توان محاسباتی هنوز برای استقرار کامل چنین بدافزارهایی کافی نیستند. تحلیل‌گران خاطرنشان می‌کنند که به دلیل حجم بالای منابع لازم برای بارگذاری حتی کوچک‌ترین مدل‌های مولد، عملیاتی کردن چنین حمله‌ای در حال حاضر ناممکن است.[1][4]

اکثر ابزارهای خانگی امروزی از ریزکنترل‌گرهایی با حافظه کمتر از ۲۵۶ کیلوبایت استفاده می‌کنند؛ بستری که حتی توان بارگذاری سبک‌ترین مدل‌های ۱.۵ گیگابایتی را هم ندارد. بدین ترتیب مدل‌های ارائه‌شده نیازمند ورود سخت‌افزارهایی مجهز به تراشه‌های پردازش عصبی به مراتب قوی‌تر از گزینه‌های فعلی بازار هستند.[1][4]

تحلیل‌گران تامز هاردویر با اشاره به ورود شتابان شتاب‌دهنده‌های هوش مصنوعی به وسایل خانگی تأکید کرده‌اند که «استقرار چنین ابزارهایی فعلاً عملی نیست اما با پیشرفت سخت‌افزار نگران‌کننده خواهد شد». شرکت‌های تولیدکننده با افزودن قابلیت پردازش آفلاین فرمان‌های صوتی به دستگاه‌ها، ناخواسته زیرساخت مورد نیاز برای بقای این بدافزارها را می‌سازند.[4]

شبکه سی‌بی‌اس نیوز نیز اشاره کرده که شرکت‌های فناوری در حال بازاریابی گسترده رایانه‌های شخصی هوش مصنوعی و لوازمی با تراشه‌های عصبی اختصاصی با توان ۱۰ تا ۴۰ ترافلاپس عملیات در ثانیه هستند. این تحول سخت‌افزاری پنجره زمانی اندکی را برای مهندسان امنیت باقی می‌گذارد تا لایه‌های دفاعی کارآمد را مستقر کنند.[2]

تغییر پارادایم امنیت سایبری

گزارش آنتروپیک نوعی هشدار زودهنگام است تا نگاه جامعه امنیت سایبری را از آسیب‌پذیری‌های متمرکز بر بستر ابری به سمت تاب‌آوری سامانه‌های لبه سوق دهد. سیستم‌های دفاعی سنتی بر نظارت بر تبادل داده با سرورهای خارجی متمرکزند، رویکردی که در برابر حملات همتابه‌همتا در محدوده یک شبکه وای‌فای داخلی کارایی ندارد.[1][2]

پژوهشگران امنیت معتقدند برای مهار چنین خطری باید جداسازی سخت‌افزاری دقیقی درون معماری دستگاه‌های نسل بعد پیاده شود. محدود ساختن فیزیکی سقف پردازشی که یک فرآیند پس‌زمینه می‌تواند مصرف کند، این امکان را فراهم می‌آورد تا منابع محاسباتی حیاتی از دسترس کرم‌های خودتکثیرشونده دور بماند.[3][5]

راهکار پیشنهادی دیگر، تعبیه استانداردهای سخت‌گیرانه اعتبارسنجی رمزنگاری‌شده در سطح شبکه‌های محلی است تا دستگاه‌ها فقط کدهای امضاشده توسط توسعه‌دهندگان معتبر را اجرا کنند. با این حال، دستیابی به استانداردی یکدست در بازار پراکنده اینترنت اشیا که بیش از ۴۵۰۰ تولیدکننده با رویکرد کاهش هزینه در آن حضور دارند، چالشی ساختاری به شمار می‌رود.[1][3]

این گزارش بحث‌های دامنه‌داری را نیز در میان متخصصان ایمنی هوش مصنوعی درباره مسئولیت توسعه‌دهندگان به راه انداخته است. گروهی استدلال می‌کنند پدیدآورندگان مدل‌های منبع‌باز باید موانع نرم‌افزاری محکمی علیه خودتکثیری ایجاد کنند، در حالی که دیگران مسئولیت اصلی را بر دوش سازندگان سخت‌افزار برای ارتقای امنیت فیزیکی سامانه‌ها می‌دانند.[2][5]

آمادگی در برابر تهدیدهای خودمختار

همگام با توسعه هوش مصنوعی لبه، مرز میان دستیاران دیجیتال کاربردی و ناقلان بدافزار مبهم‌تر می‌شود. پیشرفت‌هایی که پردازش بومی فرمان صوتی یک اسپیکر هوشمند را ممکن ساخته‌اند، دقیقاً همان شالوده‌ای هستند که سناریوی خودتکثیری شبیه‌سازی‌شده توسط آنتروپیک را تغذیه می‌کنند.[1][4]

زمان‌بندی تحقق این تهدیدات بستگی مستقیمی به سرعت فراگیری تراشه‌های پردازش عصبی در بازار لوازم الکترونیکی دارد. اگر این پردازنده‌ها طی ۳۶ تا ۴۸ ماه آینده به قطعات استاندارد لوازم خانگی تبدیل شوند، این فرضیه تئوریک با شتاب به یک بحران امنیتی فراگیر در دنیای واقعی بدل خواهد شد.[2][4]

بررسی‌های آنتروپیک نشان می‌دهد که تهدیدات سایبری نسل آینده دیگر بر حضور اپراتورهای انسانی یا هدایت از سرورهای دوردست استوار نخواهند بود. از این رو، صنعت امنیت سایبری اکنون با مهلتی مواجه است که نه بر اساس نرم‌افزار، بلکه بر مبنای آهنگ پیشرفت خطوط تولید سخت‌افزار تعیین می‌شود.[1][5]