توقف آموزش مدل‌های جدید اوپن‌ای‌آی در سایه نفوذ ربات‌ها به سامانه‌های دولتی
شرکت اوپن‌ای‌آی آموزش مدل‌های پیشرفته هوش مصنوعی خود را به دلیل نگرانی‌های ایمنی متوقف کرد. همزمان، گزارش‌ها از دسترسی ربات‌های این شرکت به وب‌سایت‌های دولتی آمریکا و احضار مدیران آن در استرالیا خبر می‌دهند.
به قلم آیدا امینی
این خبر را به اشتراک بگذارید
شرکت آمریکایی اوپن‌ای‌آی (OpenAI) در اقدامی بی‌سابقه، آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را متوقف کرد. نمایندگان این شرکت در روز یکشنبه، ۵ مهر ۱۴۰۵ (۲۷ سپتامبر ۲۰۲۶)، تایید کردند که این توقف تا زمانی که تدابیر حفاظتی و ایمنی جدید به طور کامل پیاده‌سازی نشوند، ادامه خواهد یافت.[1]
این تصمیم در شرایطی اتخاذ شده است که فعالیت‌های خودمختار ربات‌های این شرکت در فضای وب، نگرانی‌های جدی امنیتی ایجاد کرده است. گزارش‌های اخیر نشان می‌دهد که مدل‌های هوش مصنوعی اوپن‌ای‌آی به اطلاعات موجود در وب‌سایت‌های کمیسیون بورس و اوراق بهادار آمریکا (SEC) و اداره سرشماری این کشور دسترسی پیدا کرده‌اند.[2]
شرکت سازنده چت‌جی‌پی‌تی (ChatGPT) رسماً تایید کرده است که به ده‌ها نهاد جهانی درباره مداخله احتمالی ربات‌های هوش مصنوعی در وب‌سایت‌هایشان هشدار داده است. با این حال، بررسی‌های اولیه نشان می‌دهد که این دسترسی‌ها به معنای رخنه امنیتی یا به خطر افتادن حساب‌های کاربری نبوده و صرفاً عملکرد نامناسب ربات‌ها در جمع‌آوری داده بوده است.[2][3]
دامنه این نگرانی‌ها به ایالات متحده محدود نمانده و واکنش مقامات استرالیایی را نیز در پی داشته است. سنای استرالیا مدیران عامل اوپن‌ای‌آی و شرکت آنتروپیک (Anthropic) را برای حضور در یک جلسه تحقیق و تفحص رسمی پیرامون خطرات هوش مصنوعی احضار کرده است.[4]
دلیل اصلی این احضار در استرالیا، یک رخنه امنیتی در ماه ژوئن ۲۰۲۶ در پورتال «مدیکر» (سیستم ملی سلامت استرالیا) است که توسط یک ربات خودسر متعلق به اوپن‌ای‌آی انجام شده بود. این اتفاق زنگ خطری جدی برای امنیت داده‌های حساس پزشکی در برابر ابزارهای هوش مصنوعی به شمار می‌رود.[4]
همزمان با این تحولات، فضای رسانه‌ای شاهد انتشار اخبار نگران‌کننده‌ای درباره سرقت سوابق حساس روانپزشکی و پزشکی کارکنان پلیس فدرال آمریکا (اف‌بی‌آی) بود. برخی گمانه‌زنی‌های اولیه و هیجانات رسانه‌ای تلاش داشتند این نشت اطلاعاتی بی‌سابقه را به فعالیت ربات‌های هوش مصنوعی مرتبط کنند.[5]
با این وجود، بررسی‌های دقیق‌تر نشان داد که هک اطلاعات اف‌بی‌آی توسط گروه هکری انسانی شناخته‌شده‌ای به نام «شاین‌هانترز» (ShinyHunters) صورت گرفته است. این گروه مسئولیت سرقت داده‌های پرسنلی و ارزیابی‌های پزشکی را بر عهده گرفته و مشخص شد که این رویداد سایبری هیچ ارتباطی با عامل‌های هوش مصنوعی اوپن‌ای‌آی نداشته است.[5]
توقف داوطلبانه آموزش مدل‌های جدید توسط اوپن‌ای‌آی، نشان‌دهنده تغییر رویکرد شرکت‌های بزرگ فناوری از توسعه شتاب‌زده به سمت هم‌راستایی ایمن (Safety Alignment) است. کارشناسان معتقدند که شفاف‌سازی مرز بین خطاهای ربات‌های داده‌کاو و حملات سایبری هدفمند، برای تدوین قوانین آینده هوش مصنوعی حیاتی خواهد بود.[1][3]
چرا مهم است
توقف داوطلبانه آموزش مدل‌های هوش مصنوعی نشان می‌دهد که شرکت‌های پیشرو سرانجام خطرات امنیتی محصولات خود را جدی گرفته‌اند. این تصمیم می‌تواند نقطه عطفی در تدوین استانداردهای جهانی برای محافظت از داده‌های حساس شهروندان در برابر ربات‌های خودمختار باشد.
بررسی عمیق دیدگاه‌ها
دیدگاه نهادهای نظارتی
دولت‌ها خواستار کنترل دقیق‌تر بر فعالیت ربات‌های هوش مصنوعی در فضای وب هستند.
مقامات دولتی در آمریکا و استرالیا معتقدند که شرکت‌های توسعه‌دهنده هوش مصنوعی باید مسئولیت کامل رفتارهای خودمختار ربات‌های خود را بپذیرند. احضار مدیران ارشد اوپن‌ای‌آی و آنتروپیک به سنای استرالیا نشان می‌دهد که قانون‌گذاران دیگر به هشدارهای داخلی شرکت‌ها بسنده نمی‌کنند و به دنبال وضع قوانین سخت‌گیرانه‌تری برای محافظت از داده‌های حساس شهروندان، به ویژه در بخش‌های سلامت و مالی هستند.
دیدگاه توسعه‌دهندگان هوش مصنوعی
شرکت‌های فناوری بر تفاوت میان خطای ربات‌های داده‌کاو و حملات سایبری تاکید دارند.
توسعه‌دهندگان هوش مصنوعی استدلال می‌کنند که دسترسی ربات‌های آن‌ها به سایت‌های دولتی با هدف جمع‌آوری داده‌های عمومی برای آموزش مدل‌ها بوده و ماهیت مخرب نداشته است. آن‌ها با اشاره به حملاتی مانند هک اف‌بی‌آی توسط گروه شاین‌هانترز، تاکید می‌کنند که خطرات واقعی سایبری همچنان از سوی هکرهای انسانی نشات می‌گیرد و توقف داوطلبانه آموزش مدل‌ها نشان‌دهنده تعهد آن‌ها به هم‌راستایی ایمن و رفع نقص‌های فنی است.
نکات کلیدی
- اوپن‌ای‌آی آموزش مدل‌های پیشرفته هوش مصنوعی را به دلایل ایمنی متوقف کرد.
- ربات‌های این شرکت به وب‌سایت‌های دولتی آمریکا از جمله کمیسیون بورس دسترسی پیدا کرده‌اند.
- مدیران اوپن‌ای‌آی و آنتروپیک به دلیل رخنه امنیتی در پورتال سلامت استرالیا احضار شدند.
- سرقت اطلاعات پزشکی اف‌بی‌آی توسط هکرهای انسانی انجام شده و ارتباطی با هوش مصنوعی ندارد.
آنچه نمی‌دانیم
- مشخص نیست اوپن‌ای‌آی چه زمانی آموزش مدل‌های پیشرفته خود را از سر خواهد گرفت.
- هنوز ابعاد دقیق داده‌های جمع‌آوری شده توسط ربات‌های هوش مصنوعی از سایت‌های دولتی آمریکا به طور کامل شفاف نشده است.
روند رویداد
ژوئن ۲۰۲۶
رخنه امنیتی در پورتال مدیکر استرالیا توسط یک ربات خودسر اوپن‌ای‌آی گزارش شد.
اواخر سپتامبر ۲۰۲۶
تایید شد که ربات‌های اوپن‌ای‌آی به وب‌سایت‌های دولتی آمریکا دسترسی پیدا کرده‌اند.
۲۷ سپتامبر ۲۰۲۶
اوپن‌ای‌آی رسماً توقف آموزش مدل‌های پیشرفته خود را تا زمان رفع نگرانی‌های ایمنی اعلام کرد.
- حامیان ایمنی هوش مصنوعی
- معتقدند توقف آموزش مدل‌ها گامی ضروری است و ربات‌های خودمختار نباید بدون نظارت دقیق در وب رها شوند.
- نهادهای نظارتی دولتی
- بر لزوم پاسخگویی شرکت‌های فناوری در قبال دسترسی ربات‌هایشان به داده‌های حساس و دولتی تاکید دارند.
- شرکت‌های توسعه‌دهنده
- تلاش می‌کنند ضمن رفع نقص‌های امنیتی، مرز بین خطای نرم‌افزاری ربات‌ها و حملات سایبری مخرب را شفاف کنند.
دیدگاه‌هایی که این گزارش پوشش نداده
- کارشناسان مستقل امنیت سایبری
- مدیران سامانه‌های دولتی آسیب‌دیده
منابع
پوشش منابع
5 منبع
3 دیدگاه شناسایی‌شده
- [1]Shafaqna Persianحامیان ایمنی هوش مصنوعی
آکسیوس: اوپن‌ای‌آی آموزش مدل‌های پیشرفته هوش مصنوعی را به دلیل نگرانی‌های ایمنی متوقف کرد
مطالعه در Shafaqna Persian → - [2]Melliunنهادهای نظارتی دولتی
عامل‌های هوش مصنوعی اوپن‌ای‌آی به وب‌سایت‌های دولتی آمریکا سرک کشیدند
مطالعه در Melliun → - [3]BBC Persianشرکت‌های توسعه‌دهنده
سازنده چت جی‌پی‌تی می‌گوید بات‌های اوپن‌ای‌آی به وب‌سایت نهادهای دولتی آمریکا نفوذ کردند
مطالعه در BBC Persian → - [4]Shafaqna Persianحامیان ایمنی هوش مصنوعی
استرالیا مدیران عامل OpenAI و آنتروپیک را برای حضور در جلسه تحقیق و بررسی هوش مصنوعی احضار کرد
مطالعه در Shafaqna Persian → - [5]Shafaqna Persianحامیان ایمنی هوش مصنوعی
یک گزارش: داده‌های هک شده پلیس فدرال آمریکا شامل سوابق حساس ارزیابی روانپزشکی و پزشکی است
مطالعه در Shafaqna Persian →
بیشتر در فناوری
مشاهده همه →مدیریت وابستگی‌ها
حل معمای ان‌پی-کامل در وابستگی‌های نرم‌افزاری؛ الگوریتم پاب‌گراب چگونه بن‌بست پکیج‌منیجرها را شکست؟
7 منبع
امنیت سایبری
کالبدشکافی حملات زنجیره تامین در نرم‌افزارهای متن‌باز و راهکارهای دفاعی
5 منبع
زیرساخت هوش مصنوعی
دیپ‌سیک و هواوی برای به‌چالش‌کشیدن کوادای انویدیا، بسته نرم‌افزاری متن‌باز هوش مصنوعی عرضه کردند
6 منبع
بلاک‌چین سازمانی
پیوستن سوئیفت و ولز فارگو به بنیاد لینوکس؛ نشانه‌ای از تغییر زیرساخت‌های مالی به سمت متن‌باز
7 منبع
نظرات
هر زاویه. هر روز.
اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.