هک سیستم‌های داخلی اوپن‌ای‌آی توسط محققان امنیتی با کمک هوش مصنوعی کلود
یک تیم سه‌نفره از محققان امنیتی با استفاده از مدل هوش مصنوعی کلود شرکت آنتروپیک، موفق شدند از طریق یک نقص نرم‌افزاری به کدهای داخلی اوپن‌ای‌آی دسترسی پیدا کنند.
به قلم آیدا امینی
این خبر را به اشتراک بگذارید
شرط اساسی برای موفقیت هر حمله سایبری مبتنی بر هوش مصنوعی این است که ابتدا یک خطای انسانی پیش‌پاافتاده راه را باز کند. در ماجرای نفوذ اخیر در اواخر سپتامبر ۲۰۲۶ به شبکه‌های داخلی اوپن‌ای‌آی (OpenAI)، این شرط با وجود یک کتابخانه پردازش تصویر قدیمی در یک نرم‌افزار انجمن شخص ثالث برآورده شد.[3]
اما زمانی که این در باز شد، سرعت حمله به‌طور چشمگیری تغییر کرد. یک تیم ۳ نفره از استارتاپ امنیتی هک‌ترون (Hacktron AI) با استفاده از مدل تازه‌منتشرشده «کلود اپوس ۵» (Claude Opus 5) متعلق به شرکت رقیب یعنی آنتروپیک، توانستند در کمتر از ۷۲ ساعت آسیب‌پذیری‌ها را به یکدیگر متصل کرده و به سیستم‌های داخلی سازنده ChatGPT نفوذ کنند.[1][2]
این محققان، نقص کشف‌شده را از طریق برنامه رسمی باگ‌بانتی اوپن‌ای‌آی گزارش دادند. اوپن‌ای‌آی نیز پس از برطرف کردن این آسیب‌پذیری در حدود ۱۴ ساعت، مبلغ ۶۵۰۰ دلار به عنوان پاداش به این تیم پرداخت کرد.[4]
با وجود اینکه تیتر اخبار از «هک شدن یک هوش مصنوعی توسط هوش مصنوعی دیگر» حکایت دارند، واقعیت بسیار زمینی‌تر است. کلود به‌طور خودکار تصمیم به حمله نگرفت؛ بلکه محققان از این مدل به‌عنوان یک دستیار برنامه‌نویسی پیشرفته برای سوءاستفاده از یک نقص تخریب حافظه (CVE-2026-32882) در نرم‌افزار Discourse که اوپن‌ای‌آی برای انجمن کاربرانش استفاده می‌کند، بهره بردند.[3]
تیم هک‌ترون با بارگذاری یک فایل تصویری دستکاری‌شده، از سدهای دفاعی این انجمن عبور کرد. با این حال، پیشرفت اصلی زمانی حاصل شد که آن‌ها این نقص را با یک ضعف در سیستم ورود یکپارچه (SSO) اوپن‌ای‌آی ترکیب کردند.[3]
این ضعف در سیستم SSO به محققان اجازه داد تا از یک انجمن عمومی، مستقیماً به حساب‌های کاربری ChatGPT و Codex کارمندان اوپن‌ای‌آی که پیش‌تر وارد این انجمن شده بودند، دسترسی پیدا کنند.[2][4]
از این نقطه، تیم هک‌ترون توانست وارد مخزن داخلی کدهای اوپن‌ای‌آی در پلتفرم گیت‌هاب (GitHub) شود. آن‌ها برای اثبات دسترسی خود بدون سرقت داده‌های حساس، تنها یک درخواست تغییر کد (Pull Request) بی‌خطر را از طریق حساب یکی از کارمندان ثبت کردند.[2]
این رویداد تغییر در اقتصاد امنیت سایبری را برجسته می‌کند. محققان هک‌ترون اشاره کردند که تلاش‌های اولیه‌شان با استفاده از نسخه قبلی کلود (Opus 4.8) با شکست مواجه شده بود، اما انتشار نسخه پنجم این مدل به‌طور ناگهانی اجرای این اکسپلویت را ممکن ساخت؛ آن هم با هزینه‌ای کمتر از ۳۰۰۰ دلار برای توکن‌های پردازشی در طول ۲ ماه کار تحقیقاتی.[1][4]
منتقدان به یک تضاد آشکار اشاره می‌کنند: شرکت‌هایی که ادعا می‌کنند در حال ساخت مدل‌های هوش مصنوعی با قابلیت‌های تغییردهنده جهان هستند، همچنان محیط‌های امنیتی خود را با نرم‌افزارهای سازمانی معمولی که دارای آسیب‌پذیری‌های روزمره هستند، محافظت می‌کنند.[1]
این رویداد در عمل ثابت می‌کند که هوش مصنوعی نمی‌تواند از هیچ، کلاس‌های جدیدی از حملات سایبری را اختراع کند، اما به‌عنوان یک شتاب‌دهنده عظیم برای هکرهای انسانی عمل می‌کند. همان‌طور که محققان هک‌ترون در گزارش خود نوشته‌اند: «کاری که در گذشته نیازمند یک تیم مجهز و ماه‌ها زمان بود، اکنون می‌تواند در چند روز فشرده شود.»[4]
بررسی عمیق دیدگاه‌ها
دیدگاه پژوهشگران امنیت سایبری
هوش مصنوعی اقتصاد هک را تغییر داده است.
محققان تیم هک‌ترون معتقدند که مدل‌های زبانی بزرگ، تخصص‌های کمیاب امنیتی را به توان پردازشی ارزان‌قیمت تبدیل کرده‌اند. به گفته آن‌ها، کاری که در گذشته نیازمند یک تیم مجهز و ماه‌ها زمان بود، اکنون با کمک ابزارهایی مانند کلود در چند روز و با هزینه اندک انجام می‌شود. این امر ایجاب می‌کند که سرعت واکنش تیم‌های دفاعی نیز به همین نسبت افزایش یابد.
دیدگاه توسعه‌دهندگان هوش مصنوعی
برنامه‌های باگ‌بانتی کارآمد هستند.
شرکت‌هایی مانند اوپن‌ای‌آی تأکید دارند که هدف از اجرای برنامه‌های پاداش‌یابی، کشف همین نقاط ضعف پیش از سوءاستفاده مجرمان است. از دیدگاه آن‌ها، وصله شدن این آسیب‌پذیری در کمتر از ۱۴ ساعت و همکاری شفاف با هکرهای کلاه‌سفید، نشان‌دهنده بلوغ فرآیندهای امنیتی در مواجهه با تهدیدات جدید است.
دیدگاه منتقدان ایمنی هوش مصنوعی
زیرساخت‌های دفاعی با ادعاهای هوش مصنوعی همخوانی ندارند.
منتقدان و برخی از کارشناسان امنیتی استدلال می‌کنند شرکتی که مدعی است فناوری‌اش می‌تواند خطراتی در سطح جهانی ایجاد کند، نباید امنیت شبکه‌های داخلی خود را به نرم‌افزارهای شخص ثالث معمولی مانند Discourse یا Slack گره بزند. آن‌ها معتقدند که تدابیر دفاعی توسعه‌دهندگان هوش مصنوعی با ادعاهایشان درباره قدرت این فناوری همخوانی ندارد.
نکات کلیدی
- تیم هک‌ترون با استفاده از هوش مصنوعی کلود اپوس ۵ به سیستم‌های اوپن‌ای‌آی نفوذ کرد.
- این حمله از طریق یک آسیب‌پذیری در نرم‌افزار انجمن Discourse و ضعف سیستم SSO انجام شد.
- محققان توانستند به حساب‌های کاربری کارمندان و مخزن کدهای داخلی گیت‌هاب دسترسی پیدا کنند.
- اوپن‌ای‌آی پس از رفع سریع مشکل، مبلغ ۶۵۰۰ دلار به عنوان پاداش به این تیم پرداخت کرد.
- پژوهشگران امنیت سایبری
- هوش مصنوعی را یک شتاب‌دهنده می‌دانند که اقتصاد هک را تغییر داده است.
- توسعه‌دهندگان هوش مصنوعی
- این رویداد را نشانه‌ای از موفقیت برنامه‌های کشف باگ (باگ‌بانتی) می‌دانند.
- منتقدان ایمنی هوش مصنوعی
- به استفاده از زیرساخت‌های معمولی برای محافظت از فناوری‌های حساس انتقاد دارند.
دیدگاه‌هایی که این گزارش پوشش نداده
- کاربران عادی انجمن Discourse
منابع
پوشش منابع
4 منبع
3 دیدگاه شناسایی‌شده
- [1]Forbesپژوهشگران امنیت سایبری
A group of cybersecurity researchers managed to breach OpenAI's internal system
مطالعه در Forbes → - [2]VentureBeatتوسعه‌دهندگان هوش مصنوعی
OpenAI hacked by small team of white hat security researchers using Anthropic's Claude Opus 5
مطالعه در VentureBeat → - [3]Malwarebytesمنتقدان ایمنی هوش مصنوعی
Now, a cybersecurity company has turned the tables on the ChatGPT operator by using AI to help hack OpenAI itself
مطالعه در Malwarebytes → - [4]The Guardianپژوهشگران امنیت سایبری
Cybersecurity researchers have hacked into OpenAI with the help of Anthropic's Claude chatbot
مطالعه در The Guardian →
بیشتر در فناوری
مشاهده همه →معماری نرم‌افزار
چگونه توسعه نرم‌افزار با بدهی فنی، هزینه‌های بازسازی آینده را پیش‌خور می‌کند
6 منبع
هوش مصنوعی خاورمیانه
سرمایه‌گذاری ۱۰ میلیارد دلاری مایکروسافت در خلیج فارس برای توسعه هوش مصنوعی و تاب‌آوری دیجیتال
5 منبع
تامین مالی استارتاپ
ارزش‌گذاری استارتاپ‌های پیش از درآمدزایی: چگونه روش‌های برکوس و کارت‌امتیازی جایگزین جریان نقد تنزیل‌شده می‌شوند
7 منبع
مدیریت حافظه
توقف دنیا: زباله‌روب‌های نسلی چگونه توان عملیاتی و تاخیر را در زمان اجرای برنامه‌ها متعادل می‌کنند؟
7 منبع
نظرات
هر زاویه. هر روز.
اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.