تأییدیه اوپن‌ای‌آی: دولت آمریکا کاربران مدل پیشرفته هوش مصنوعی را به دلیل نگرانی‌های امنیت ملی بررسی می‌کند

در یک تغییر مهم که هوش مصنوعی پیشرفته را از یک نرم‌افزار مصرفی به یک دارایی امنیت ملی تحت نظارت مجدد طبقه‌بندی می‌کند، اوپن‌ای‌آی تأیید کرده است که برای کاربران جدیدترین مدل پیشرفته خود، نیاز به بررسی و تأیید دولت ایالات متحده خواهد داشت. این توافق که با وزارت بازرگانی و سازمان‌های اطلاعاتی فدرال منعقد شده است، یک فرآیند غربالگری اجباری را برای مشتریان سازمانی و نهادهای بین‌المللی که به دنبال دسترسی API به این سیستم هستند، ایجاد می‌کند.[1][3]

این چارچوب توسط دفتر صنعت و امنیت (BIS) اداره می‌شود، همان سازمانی که مسئول اجرای کنترل‌های صادراتی بر نیمه‌رساناهای پیشرفته و فناوری نظامی است. طبق قوانین جدید، هر نهادی که درخواست دسترسی با حجم بالا یا قابلیت‌های تنظیم دقیق (fine-tuning) را دارد، باید تحت یک ممیزی «مشتری خود را بشناسید» (KYC) قرار گیرد که با پایگاه‌های داده تهدید فدرال مطابقت داده می‌شود.[3]

محرک نظارتی برای این نظارت بی‌سابقه مستقیماً به قدرت محاسباتی گره خورده است. وزارت بازرگانی آستانه‌ای معادل ۱۰ به توان ۲۶ عملیات ممیز شناور (FLOPs) را که در طول آموزش استفاده می‌شود، تعیین کرده است – معیاری که مدل جدید اوپن‌ای‌آی به طور قابل توجهی از آن فراتر می‌رود. مدل‌های زیر این آستانه از غربالگری اجباری فدرال معاف می‌مانند و دسترسی آزاد برای ابزارهای نسل فعلی مانند GPT-4 حفظ می‌شود.[3][4]

محرک اصلی پروتکل غربالگری، قابلیت مستند شده استفاده دوگانه مدل‌های نسل بعدی است. ارزیابی‌های اخیر توسط مرکز امنیت آمریکای نوین و محققان مستقل نشان داده است که مدل‌هایی در این مقیاس، توانایی‌های نوظهوری برای کمک به طراحی سلاح‌های شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای (CBRN) دارند.[4]

فراتر از سلاح‌های فیزیکی، جامعه اطلاعاتی به شدت نگران جنگ سایبری خودکار است. ارزیابی‌های مورد تأیید همتایان نشان می‌دهد که جدیدترین مدل‌های پیشرفته می‌توانند به طور مستقل آسیب‌پذیری‌های روز صفر (zero-day) را در زیرساخت‌های حیاتی کشف کرده و بدافزارهای سفارشی و چندشکلی برای بهره‌برداری از آن‌ها بنویسند، که عملاً مانع ورود گروه‌های هکری تحت حمایت دولت را کاهش می‌دهد.[4]

برای بخش سازمانی، این سیاست اصطکاک قابل توجهی را در خط لوله پذیرش هوش مصنوعی ایجاد می‌کند. شرکت‌های فورچون ۵۰۰، دانشگاه‌های تحقیقاتی و ارائه‌دهندگان خدمات ابری اکنون باید یک دوره بررسی دولتی ۳۰ تا ۹۰ روزه را قبل از استقرار مدل در عملیات خود در نظر بگیرند، که اساساً سرعت نوآوری شرکتی را تغییر می‌دهد.

پیامدهای بین‌المللی حتی برجسته‌تر هستند. نیویورک تایمز گزارش می‌دهد که چارچوب غربالگری عملاً یک سیستم دسترسی جهانی طبقه‌بندی شده ایجاد می‌کند، جایی که نهادهای کشورهای متحد با بررسی‌های سریع‌تر مواجه می‌شوند، در حالی که کاربران در حوزه‌های قضایی که توسط وزارت امور خارجه «پرخطر» تلقی می‌شوند، با رد دسترسی مواجه خواهند شد.[2]

سازمان‌های آزادی‌های مدنی به شدت این توافق را محکوم کرده‌اند. بنیاد مرز الکترونیک (EFF) استدلال می‌کند که اعطای دسترسی پنهان به سازمان‌های اطلاعاتی برای نظارت بر اینکه چه کسی از هوش مصنوعی استفاده می‌کند – و احتمالاً برای چه کاری از آن استفاده می‌کند – گسترش عظیمی از دولت نظارتی است و حریم خصوصی محققان و روزنامه‌نگاران را تهدید می‌کند.

اجرای فنی فرآیند غربالگری متکی بر تله‌متری پیشرفته و تأیید هویت رمزنگاری شده است. وایرد (Wired) اشاره می‌کند که ارائه‌دهندگان ابری که میزبان مدل هستند، ملزم خواهند بود که گزارش‌های مفصلی از دستورات و خروجی‌های کاربر را حفظ کنند، که در صورت تشخیص الگوهای رفتاری غیرعادی یا محدود شده توسط BIS، ممکن است احضار شوند.

این مانع نظارتی همچنین شکاف بین توسعه هوش مصنوعی اختصاصی و متن‌باز را عمیق‌تر می‌کند. در حالی که اوپن‌ای‌آی از غربالگری فدرال پیروی می‌کند، مدل‌های با وزن باز (open-weight) که می‌توانند به صورت محلی دانلود و اجرا شوند، به طور کامل این زیرساخت را دور می‌زنند و قانونگذاران را وادار می‌کند تا بررسی کنند که آیا محدودیت‌های مشابهی باید در نهایت برای توزیع متن‌باز اعمال شود یا خیر.[1]

عدم قطعیت قابل توجهی در مورد ظرفیت دولت برای اجرای کارآمد این چارچوب باقی مانده است. BIS در حال حاضر نسبت به مأموریت در حال گسترش خود با کمبود پرسنل و بودجه مواجه است، که این نگرانی را افزایش می‌دهد که انباشت درخواست‌های غربالگری می‌تواند اقتصاد گسترده‌تر فناوری ایالات متحده را متوقف کرده و توسعه را به حوزه‌های قضایی خارج از کشور سوق دهد.[2][3]

در نهایت، توافق اوپن‌ای‌آی و دولت یک پارادایم جدید برای صنعت فناوری ایجاد می‌کند. با برخورد با مدل‌های هوش مصنوعی پیشرفته به عنوان دارایی‌های دفاعی استراتژیک به جای محصولات تجاری، ایالات متحده سیگنال می‌دهد که دوران نوآوری بدون مجوز در لبه پیشروی محاسبات رسماً به پایان رسیده است.