رفتن به محتوای اصلی
هوش مصنوعی پیشتازتصمیم سیاستی۲۸ مرداد ۱۴۰۵، ۱۶:۲۳· 6 دقیقه مطالعه· #2 از 4 در هوش مصنوعی

ترامپ بازبینی امنیتی داوطلبانه ۳۰ روزه مدل‌های هوش مصنوعی پیشتاز را نهایی کرد

یک فرمان اجرایی جدید، بازبینی امنیت سایبری محرمانه پیش از انتشار را برای سیستم‌های پیشرفته هوش مصنوعی ایجاد می‌کند و تمرکز دولت فدرال را از ایمنی هوش مصنوعی به سمت امنیت ملی تغییر می‌دهد.

به قلم ندا وزیری

مقامات امنیت ملی 35%توسعه‌دهندگان و صنعت هوش مصنوعی 35%حامیان حکمرانی و پاسخگویی 30%
مقامات امنیت ملی
استدلال می‌کنند که یک چارچوب بازبینی سریع و محرمانه برای جلوگیری از سوءاستفاده دشمنان از مدل‌های هوش مصنوعی پیشتاز برای حملات سایبری ضروری است.
توسعه‌دهندگان و صنعت هوش مصنوعی
طرفدار چارچوب‌های داوطلبانه و بازه‌های بازبینی کوتاه‌تر برای حفظ سرعت نوآوری و رقابت‌پذیری آمریکا هستند.
حامیان حکمرانی و پاسخگویی
هشدار می‌دهند که یک سیستم مخفی و داوطلبانه فاقد پاسخگویی است و به عنوان یک رژیم صدور مجوز بالفعل و غیرقانونی عمل می‌کند.

نکات کلیدی

  1. فرمان اجرایی ۱۴۴۰۹ یک بازبینی امنیتی داوطلبانه ۳۰ روزه پیش از انتشار را برای مدل‌های پیشرفته هوش مصنوعی پیشتاز ایجاد می‌کند.
  2. این چارچوب صراحتاً صدور مجوز اجباری را ممنوع کرده و مدل‌های هوش مصنوعی متن‌باز را معاف می‌کند.
  3. این سیاست تمرکز فدرال را از نگرانی‌های گسترده ایمنی هوش مصنوعی به سمت امنیت سایبری سختگیرانه هوش مصنوعی و دفاع ملی تغییر می‌دهد.
  4. مدت زمان بازبینی پس از مخالفت مدیران اجرایی فناوری، از ۹۰ روز به ۳۰ روز کاهش یافت.
  5. منتقدان هشدار می‌دهند که ماهیت محرمانه این چارچوب یک «سیستم صدور مجوز بالفعل» مبهم ایجاد می‌کند.

تصور رایج در مورد فرمان اجرایی جدید هوش مصنوعی کاخ سفید این است که یک گلوگاه نظارتی سختگیرانه بر شرکت‌های برتر فناوری آمریکا تحمیل می‌کند. واقعیت، که متن دستورالعمل نیز آن را تأیید می‌کند، تقریباً عکس این است. فرمان اجرایی ۱۴۴۰۹ که در اوایل آگوست پس از امضای اولیه در ژوئن نهایی شد، یک بازبینی امنیتی پیش از انتشار را برای پیشرفته‌ترین مدل‌های هوش مصنوعی «پیشتاز» جهان ایجاد می‌کند. با این حال، این چارچوب کاملاً داوطلبانه است، مدل‌های متن‌باز را معاف می‌کند و صراحتاً صدور مجوز اجباری را ممنوع می‌سازد. این سیاست به جای یک رژیم نظارتی سنگین، بر تمایل شرکت‌های خصوصی تکیه دارد که ارزشمندترین مالکیت فکری خود را برای یک بازه زمانی کوتاه پیش از عرضه تجاری، در اختیار آژانس‌های امنیتی فدرال قرار دهند.[1][4][5][7]

این سازوکار در عمل به این صورت کار می‌کند. بر اساس چارچوب تازه نهایی شده، از توسعه‌دهندگان سیستم‌های هوش مصنوعی عمومی و بسیار توانمند دعوت می‌شود تا مدل‌های خود را حداکثر ۳۰ روز قبل از انتشار عمومی، برای یک فرآیند معیارگذاری محرمانه ارائه دهند. این بازبینی توسط یک مرکز تسویه امنیت سایبری هوش مصنوعی که به تازگی تأسیس شده و تحت رهبری وزارت خزانه‌داری، آژانس امنیت ملی (NSA) و آژانس امنیت سایبری و زیرساخت (CISA) قرار دارد، هماهنگ می‌شود. این گروه بین‌سازمانی مسئول دریافت مدل‌ها، ایمن‌سازی آن‌ها در یک محیط محرمانه و اجرای مجموعه‌ای از آزمون‌های استرس است که برای آشکارسازی نحوه سوءاستفاده احتمالی بازیگران مخرب از هوش مصنوعی طراحی شده‌اند.[2][3][8]

این آژانس‌ها موظفند مدل‌ها را از نظر قابلیت‌های سایبری پیشرفته آزمایش کنند. ادعای اصلی پشت این فرمان این است که مدل‌های پیشتاز دارای قابلیت‌هایی هستند که می‌توانند موانع ورود به عملیات سایبری پیچیده را کاهش دهند، مانند شناسایی و بهره‌برداری از باگ‌های خفته در کدهای قدیمی‌تر. هدف این مرکز تسویه، کشف و تأیید آسیب‌پذیری‌های نرم‌افزاری پیش از استقرار آن‌ها در زیرساخت‌های حیاتی است و عملاً به عنوان یک تیم قرمز (Red Team) دولتی برای محصولات جدید هوش مصنوعی عمل می‌کند. دولت امیدوار است با متمرکزسازی این داده‌های آسیب‌پذیری، پیش از آنکه یک مدل در اینترنت عمومی منتشر شود، ترمیم و توزیع وصله‌های امنیتی را در اولویت قرار دهد.[3][8]

فرآیند بازبینی داوطلبانه ۳۰ روزه که توسط فرمان اجرایی ۱۴۴۰۹ ایجاد شده است.

شواهد نشان‌دهنده یک چرخش فلسفی عمدی در حکمرانی فدرال هوش مصنوعی است. گزارش خدمات تحقیقات کنگره در جولای ۲۰۲۶ تأیید می‌کند که دولت تمرکز خود را از «ایمنی هوش مصنوعی» گسترده – که به طور تاریخی شامل نگرانی‌هایی مانند سوگیری الگوریتمی، حفظ حریم خصوصی داده‌های آموزشی یا جابجایی گسترده مشاغل بود – به طور کامل به سمت «امنیت هوش مصنوعی» تغییر داده است. اکنون دولت با این مدل‌ها عمدتاً به عنوان دارایی‌های استراتژیک دوگانه رفتار می‌کند: هم موتورهای اقتصادی حیاتی که باید از سرقت خارجی محافظت شوند، و هم سلاح‌های سایبری بالقوه که نیاز به تقویت دارند. این تغییر، چارچوب حمایت از مصرف‌کننده سال‌های گذشته را به نفع یک رویکرد امنیت ملی کنار می‌گذارد.[6][7]

شواهد نشان‌دهنده یک چرخش فلسفی عمدی در حکمرانی فدرال هوش مصنوعی است.

بازه زمانی ۳۰ روزه نشان‌دهنده یک مصالحه مستند بین مقامات امنیت ملی و رهبری سیلیکون ولی است. پیش‌نویس‌های این فرمان یک دوره بازبینی ۹۰ روزه را پیشنهاد کرده بودند که در اواخر ماه می پس از آنکه مدیران اجرایی فناوری استدلال کردند که این امر به شدت رقابت‌پذیری آمریکا در برابر چین را تضعیف می‌کند، به طور ناگهانی کنار گذاشته شد. متن نهایی این بازه را به یک ماه کاهش داد و مشارکت را کاملاً اختیاری کرد؛ اقدامی که همکاری آزمایشگاه‌های بزرگی مانند اوپن‌ای‌آی (OpenAI)، گوگل (Google) و آنتروپیک (Anthropic) را تضمین کرد. برای این صنعت، تأخیر ۳۰ روزه یک مانع قابل مدیریت است؛ اما توقف ۹۰ روزه در بازاری که با این سرعت حرکت می‌کند، به عنوان یک تهدید وجودی تلقی می‌شد.[1][5][8]

جایی که شواهد مبهم می‌شود، در اجرای و اعمال این چارچوب است. کاخ سفید تصمیم گرفته است که معیارهای معیارگذاری خاص و آستانه محاسباتی دقیق برای آنچه «مدل پیشتاز تحت پوشش» محسوب می‌شود را محرمانه نگه دارد. این پنهان‌کاری انتقادات شدیدی را از سوی حامیان حکمرانی و حریم خصوصی به دنبال داشته است، کسانی که استدلال می‌کنند یک سیستم مبهم و داوطلبانه، صرفاً ظاهر نظارت را بدون محتوای پاسخگویی ارائه می‌دهد. بدون معیارهای عمومی، محققان مستقل نمی‌توانند تأیید کنند که آیا آزمون‌های دولت به اندازه کافی سختگیرانه هستند که تهدیدات جدید را شناسایی کنند، یا اینکه این فرآیند صرفاً یک تأییدیه صوری است.[3][5][6]

مدت زمان بازبینی به دنبال مخالفت صنعت فناوری به دلیل نگرانی‌های رقابتی، به طور قابل توجهی کاهش یافت.

علاوه بر این، شواهد متناقضی در مورد اینکه این چارچوب در عمل چقدر «داوطلبانه» است، وجود دارد. در حالی که متن فرمان صراحتاً پیش‌تأیید اجباری را ممنوع می‌کند، برخی تحلیلگران سیاسی استدلال می‌کنند که دولت یک «سیستم صدور مجوز بالفعل» ایجاد کرده است. گزارش‌های صنعتی به اقدامات اجرایی اخیر – از جمله توقف ۱۹ روزه مدل‌های آنتروپیک به دلیل کنترل صادرات و عرضه محدود دو هفته‌ای GPT-۵.۶ اوپن‌ای‌آی – به عنوان شواهدی اشاره می‌کنند که دولت از اهرم‌های جایگزین، مانند محدودیت‌های صادراتی، برای وادار کردن شرکت‌هایی که ممکن است از مشارکت خودداری کنند، به انطباق استفاده می‌کند. این امر نشان می‌دهد که برچسب داوطلبانه ممکن است یک افسانه حقوقی باشد که قدرت اجرایی سخت را پنهان می‌کند.[4][5][7]

این چارچوب همچنین معافیت قابل توجهی را برای مدل‌های با وزن باز (open-weight models) در نظر می‌گیرد – مدل‌هایی که معماری و وزن‌های زیربنایی آن‌ها برای دانلود رایگان در دسترس است. گزارش شده است که این معافیت برای حفظ برتری رقابتی بر رقبای ژئوپلیتیکی، از طریق پر کردن بازار جهانی با هوش مصنوعی متن‌باز ساخت آمریکا، طراحی شده است. با این حال، محققان امنیتی خاطرنشان می‌کنند که این امر یک نقطه کور بزرگ ایجاد می‌کند: اگر مدل‌های باز از بازبینی ۳۰ روزه معاف باشند، بخش قابل توجهی از اکوسیستم هوش مصنوعی به طور کامل خارج از دید دولت پیش از انتشار باقی می‌ماند و به آسیب‌پذیری‌های بالقوه اجازه می‌دهد فوراً گسترش یابند.[1][5]

اهمیت این آزمایش سیاستی بسیار زیاد است. دولت با اولویت دادن به سرعت و همکاری داوطلبانه بر مقررات الزام‌آور، شرط می‌بندد که منافع شخصی صنعت فناوری کاملاً با امنیت ملی همسو است. اینکه آیا این چارچوب سبک و محرمانه واقعاً می‌تواند یک آسیب‌پذیری فاجعه‌بار را پیش از رسیدن به اینترنت عمومی شناسایی کند، ادعای اصلی و آزمایش نشده عصر جدید هوش مصنوعی باقی می‌ماند. اگر سیستم داوطلبانه نتواند از یک حمله سایبری بزرگ با کمک هوش مصنوعی جلوگیری کند، فشار سیاسی برای جایگزینی آن با یک رژیم صدور مجوز اجباری و سختگیرانه احتمالاً غیرقابل توقف خواهد شد.[6][7]

اصطلاحات کلیدی

هوش مصنوعی پیشتاز (Frontier AI)
مدل‌های هوش مصنوعی عمومی و بسیار توانمندی که با قابلیت‌های پیشرفته‌ترین سیستم‌های موجود مطابقت دارند یا از آن‌ها فراتر می‌روند.
مدل‌های با وزن باز (Open-weight models)
سیستم‌های هوش مصنوعی که معماری و پارامترهای زیربنایی آن‌ها به صورت رایگان در دسترس است تا هر کسی بتواند آن‌ها را دانلود، اصلاح و به صورت محلی اجرا کند.
تیم قرمز (Red team)
یک گروه مستقل که یک سازمان را به چالش می‌کشد تا اثربخشی خود را با اتخاذ نقش یا دیدگاه خصمانه بهبود بخشد، که اغلب در آزمون‌های امنیت سایبری استفاده می‌شود.

منابع

پوشش منابع

8 منبع

3 دیدگاه شناسایی‌شده

مقامات امنیت ملی 35%توسعه‌دهندگان و صنعت هوش مصنوعی 35%حامیان حکمرانی و پاسخگویی 30%
  1. [1]AP Newsمقامات امنیت ملی

    Trump signs executive order on oversight of artificial intelligence

    مطالعه در AP News
  2. [2]The Guardianتوسعه‌دهندگان و صنعت هوش مصنوعی

    Trump's new AI executive order makes frontier model security review voluntary

    مطالعه در The Guardian
  3. [3]McDermott Will & Emeryمقامات امنیت ملی

    US President Trump Issues Executive Order on AI Innovation and Security

    مطالعه در McDermott Will & Emery
  4. [4]Center for American Progressحامیان حکمرانی و پاسخگویی

    The Trump Administration Has Created a De Facto Licensing System for Frontier AI Models

    مطالعه در Center for American Progress
  5. [5]AI Weeklyحامیان حکمرانی و پاسخگویی

    Executive Order 14409 directs an NSA-led group to review frontier AI models

    مطالعه در AI Weekly
  6. [6]MyPrivacy Blogحامیان حکمرانی و پاسخگویی

    Trump's New AI Executive Order Makes Frontier Model Security Review Voluntary. That's the Problem.

    مطالعه در MyPrivacy Blog
  7. [7]Legis1توسعه‌دهندگان و صنعت هوش مصنوعی

    Executive Order 14409 reorients federal AI governance toward cybersecurity

    مطالعه در Legis1
  8. [8]SHRMتوسعه‌دهندگان و صنعت هوش مصنوعی

    President Donald Trump signed an executive order (EO) on June 2 that requests early access to new AI models

    مطالعه در SHRM

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت هوش مصنوعی اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.