اوپن‌ای‌آی از «پردازش ایمنی خصوصی» پرده برداشت: شناسایی سوءاستفاده از هوش مصنوعی بدون نگهداری داده‌ها

خریداران هوش مصنوعی سازمانی در حال حاضر در یک تناقض اساسی گرفتار شده‌اند: آن‌ها موظفند از داده‌های اختصاصی خود محافظت کنند، اما به همان اندازه موظفند که از تبدیل شدن استقرار هوش مصنوعی‌شان به سلاح جلوگیری نمایند. با توانمند شدن مدل‌های پیشرفته برای اجرای وظایف پیچیده و چندمرحله‌ای، تنش بین حریم خصوصی و ایمنی، صنعت را دچار شکاف کرده است.[5]

اختلاف نظر اصلی در قلب بازار این است که چگونه یک عامل مخرب پیچیده را شناسایی کنیم. انتروپیک اخیراً تصمیم گرفت که شناسایی سوءاستفاده پیچیده از هوش مصنوعی مستلزم نگهداری داده‌های مشتری به مدت ۳۰ روز است تا بازبینان انسانی بتوانند تحقیقات لازم را انجام دهند. اوپن‌ای‌آی اکنون یک شرط بزرگ را در جهت مخالف قرار داده است.[7]

در ۱۹ آگوست، اوپن‌ای‌آی پیش‌نمایشی از «پردازش ایمنی خصوصی» (Private Safety Processing) را معرفی کرد؛ سیستمی که برای شناسایی سوءاستفاده‌های چندمرحله‌ای بدون نقض تعهد خود مبنی بر «عدم نگهداری داده» (ZDR) طراحی شده است. این اعلامیه مستقیماً در برابر دستور نگهداری داده انتروپیک قرار می‌گیرد و حریم خصوصی را به عنوان یک مزیت رقابتی در رقابت برای قراردادهای سازمانی مطرح می‌کند.[1][7]

برای جدا کردن قابلیت واقعی از زبان بازاریابی، بسیار مهم است که توجه کنیم چه چیزی واقعاً عرضه شده و چه چیزی صرفاً اعلام گردیده است. «پردازش ایمنی خصوصی» امروز به طور عمومی در دسترس نیست. این سیستم در حال حاضر یک پیش‌نمایش است که با شرکای اولیه مانند Databricks و Microsoft در حال آزمایش است و عرضه گسترده‌تر و انتشار مقاله فنی آن برای سپتامبر هدف‌گذاری شده است.[3][5]

مشکلی که اوپن‌ای‌آی در تلاش برای حل آن است، یک محدودیت واقعی در حریم خصوصی سختگیرانه است. پروتکل‌های سنتی ZDR هر پرامپت را به صورت مجزا ارزیابی می‌کنند و تبادل داده را بلافاصله پس از پردازش پاک می‌کنند. اگر یک مهاجم از روش «جیل‌بریک بهترین از N» (Best-of-N jailbreak) استفاده کند – یعنی صدها تغییر جزئی از یک پرامپت مخرب را در جلسات مختلف ارسال نماید – یک فیلتر تک‌تعاملی احتمالاً الگوی گسترده‌تر را از دست خواهد داد.[3][8]

«پردازش ایمنی خصوصی» تلاش می‌کند تا این شکاف را به صورت الگوریتمی پر کند. به جای ثبت متن برای بازبینی انسانی، سیستم‌های خودکار تعاملات مرتبط را در طول زمان تجزیه و تحلیل می‌کنند. هنگامی که یک تهدید شناسایی می‌شود، سیستم یک «سیگنال با تعریف محدود» تولید می‌کند که نوع فعالیت پرخطر را نشان می‌دهد، نه اینکه پرامپت‌ها یا پاسخ‌های اصلی را در معرض دید پرسنل اوپن‌ای‌آی قرار دهد.[1][2]

این معماری به شدت به رمزگذاری تحت کنترل مشتری متکی است. مشتریان می‌توانند داده‌های خود را به طور کامل روی زیرساخت خود نگه دارند، یا آن‌ها را روی سرورهای اوپن‌ای‌آی با کلیدهایی که اوپن‌ای‌آی در اختیار ندارد، رمزگذاری و ذخیره کنند. در هر دو سناریو، ارائه‌دهنده هوش مصنوعی ادعا می‌کند که نمی‌تواند محتوایی را که نظارت می‌کند، بخواند.[1][4]

این رویکرد بار بررسی‌های قضایی (فارنزیک) را به طور کامل به دوش مشتری منتقل می‌کند. از آنجایی که اوپن‌ای‌آی هیچ گزارشی را نگهداری نمی‌کند، سازمانی که یک سیگنال ایمنی دریافت می‌کند، باید از ابزارهای امنیتی داخلی خود برای بررسی هشدار استفاده کند. آزمایشگاه هوش مصنوعی هشدار را ارائه می‌دهد، اما مشتری باید زمینه و جزئیات را فراهم کند.[2][8]

سیاست متضاد انتروپیک برای مدل‌های Mythos 5 و Fable 5 این دشواری را تأیید می‌کند. انتروپیک با اجباری کردن دوره نگهداری ۳۰ روزه، استدلال می‌کند که بازبینی انسانی از طریق یک مسیر دسترسی کنترل‌شده، تنها راه مطمئن برای شناسایی حملات هماهنگ و جدیدی است که ممکن است سیستم‌های خودکار آن‌ها را به اشتباه طبقه‌بندی کنند.[4][7]

این موضوع فراتر از چارچوب‌های ایمنی نظری است. صنایع تحت نظارت – مانند بهداشت و درمان، مالی و دفاع – در حال حاضر در حال تصمیم‌گیری هستند که کدام زیرساخت هوش مصنوعی را بپذیرند. یک سیاست نگهداری ۳۰ روزه می‌تواند برای یک سیستم بیمارستانی که ملزم به رعایت HIPAA است، یک مانع بزرگ باشد و همین امر، پیشنهاد عدم نگهداری داده اوپن‌ای‌آی را برای مسئولان انطباق بسیار جذاب می‌کند.[2][6]

با این حال، تحلیلگران امنیتی نسبت به اثربخشی تشخیص صرفاً خودکار، تردید دارند. اگر رفتار یک مدل هوش مصنوعی در طول یک کار کدنویسی طولانی‌مدت به تدریج از اختیارات مورد نظر کاربر منحرف شود، یک سیگنال خودکار ممکن است فاقد ظرافت لازم برای تمایز بین یک راه‌حل خلاقانه و یک نقض امنیتی باشد.[8]

در نهایت، بازار به دو پارادایم متمایز تقسیم می‌شود. خریداران اکنون باید انتخاب کنند که آیا از نقض داده توسط شخص ثالث بیشتر می‌ترسند یا از سوءاستفاده شناسایی‌نشده از سیستم‌های هوش مصنوعی خود. وضوح این موضوع احتمالاً نه به این بستگی دارد که کدام سیستم به طور عینی ایمن‌تر است، بلکه به این بستگی دارد که توضیح ریسک‌های کدام سیستم برای یک رگولاتور آسان‌تر است.[5][6]