چگونه کمیسیون تجارت فدرال (FTC) مانع استفاده پنهانی شرکت‌ها از داده‌های شما برای آموزش هوش مصنوعی می‌شود

کمیسیون تجارت فدرال (FTC) خط قرمزی در برابر یکی از بحث‌برانگیزترین عادات جدید صنعت فناوری کشیده است: بازنویسی پنهانی سیاست‌های حفظ حریم خصوصی برای خوراک دادن داده‌های کاربران به مدل‌های هوش مصنوعی. در یک هشدار رسمی که این هفته صادر شد، این سازمان اعلام کرد که تغییر عطف به ماسبق شرایط خدمات برای اجازه دادن به آموزش هوش مصنوعی بدون رضایت صریح کاربر، یک اقدام ناعادلانه و فریبنده است.[1][4]

این دستورالعمل در یک گلوگاه حیاتی در رونق هوش مصنوعی صادر می‌شود. در حالی که مدل‌های پیشرو تمام محتوای اینترنت عمومی را مصرف می‌کنند، توسعه‌دهندگان به طور فزاینده‌ای به دنبال پایگاه‌های داده اختصاصی خود هستند. این گنجینه‌های داخلی شامل سال‌ها ایمیل، پیام‌های خصوصی، عکس‌های آپلود شده و گزارش‌های رفتاری کاربران است که در ابتدا برای اهداف کاملاً متفاوتی جمع‌آوری شده بودند.[2]

تا کنون، روال استاندارد صنعت شامل یک به‌روزرسانی پنهانی بود. یک شرکت شرایط خدمات طولانی خود را بازبینی می‌کرد، یک بند کلی در مورد بهبود محصول یا یادگیری ماشینی اضافه می‌کرد و به این واقعیت تکیه می‌کرد که تقریباً هیچ‌کس جزئیات دقیق را نمی‌خواند. به محض اجرایی شدن سیاست به‌روز شده، شرکت شروع به جمع‌آوری داده‌های تاریخی کاربران برای آموزش مدل‌های مولد جدید می‌کرد.[3]

مداخله FTC اساساً این روال را مختل می‌کند. طبق دستورالعمل این سازمان، شرکتی که داده‌ها را تحت مجموعه‌ای از وعده‌های حریم خصوصی جمع‌آوری می‌کند، نمی‌تواند به سادگی قوانین را پس از آن تغییر دهد. اگر کاربری در سال ۲۰۲۲ عکس‌های خانوادگی خود را در یک سرویس ابری با این وعده که خصوصی خواهند ماند، آپلود کرده باشد، شرکت نمی‌تواند با به‌روزرسانی سیاست در سال ۲۰۲۶ ناگهان آن عکس‌ها را وارد یک الگوریتم تولید تصویر کند.[1][4]

سازوکار قانونی زیربنای این هشدار، بخش ۵ قانون FTC است که اقدامات یا رویه‌های ناعادلانه یا فریبنده در تجارت یا مؤثر بر آن را ممنوع می‌کند. این سازمان استدلال می‌کند که سیاست‌های داده‌ای فریبکارانه (Bait-and-switch) ذاتاً گمراه‌کننده هستند، زیرا اصل اساسی را که مصرف‌کننده بر اساس آن اطلاعات شخصی خود را در ابتدا تحویل داده است، نقض می‌کنند.[1][6]

برای جلوگیری از اجرای قانون، شرکت‌ها اکنون باید برای آموزش هوش مصنوعی بر روی داده‌های تاریخی، رضایت مثبت و صریح (opt-in) کسب کنند. پنهان کردن این تغییر در یک پنجره پاپ‌آپ اجباری که کاربران را مجبور به پذیرش شرایط جدید یا از دست دادن دسترسی به حساب‌هایشان می‌کند، دیگر کافی نخواهد بود. رضایت باید صریح، به راحتی قابل درک و کاملاً اختیاری باشد.[3][6]

این تغییر نظارتی شوک‌های فوری را در سراسر اکوسیستم فناوری ایجاد می‌کند، به ویژه برای استارتاپ‌هایی که اخیراً به سمت هوش مصنوعی تغییر جهت داده‌اند. بسیاری از شرکت‌های کوچک‌تر، داده‌های کاربران موجود خود را به عنوان یک گنجینه می‌دیدند که می‌توانست برای کسب درآمد یا آموزش مدل‌های اختصاصی جهت جذب سرمایه خطرپذیر استفاده شود. اکنون آن‌ها باید یا آن داده‌ها را از خطوط لوله آموزشی خود حذف کنند یا خطر تحقیقات فدرال فلج‌کننده را بپذیرند.[2]

برخی از گروه‌های صنعتی استدلال می‌کنند که موضع FTC بیش از حد محدودکننده است و نحوه عملکرد توسعه نرم‌افزار مدرن را درک نمی‌کند. آن‌ها معتقدند که آموزش هوش مصنوعی صرفاً تکامل بعدی بهبود استاندارد خدمات است، بندی که بیش از یک دهه در سیاست‌های حفظ حریم خصوصی فناوری استاندارد بوده است. از این دیدگاه، استفاده از داده‌ها برای هوشمندتر کردن یک برنامه تفاوتی با استفاده از آن برای رفع اشکالات نرم‌افزاری ندارد.[4]

حامیان حریم خصوصی به شدت این معادل‌سازی را رد می‌کنند. سازمان‌ها اشاره می‌کنند که مدل‌های مولد هوش مصنوعی فقط داده‌ها را تجزیه و تحلیل نمی‌کنند؛ بلکه آن‌ها را حفظ کرده و بازگو می‌کنند. یک سیستم ردیابی اشکال (Bug-tracking) خطر افشای یک پرسش پزشکی خصوصی کاربر یا شباهت شخصی او به شخص ثالث را ندارد، در حالی که یک مدل زبان بزرگ که به درستی تنظیم نشده باشد، ممکن است به طور ناخواسته نسخه‌های دقیقی از داده‌های آموزشی خود را تولید کند.[5]

جدی‌ترین تهدید در زرادخانه FTC، جریمه‌های مالی نیست، بلکه راهکاری است که به عنوان «مصادره الگوریتمی» (algorithmic disgorgement) شناخته می‌شود. اگر این سازمان ثابت کند که شرکتی یک مدل هوش مصنوعی را بر اساس داده‌های فریبکارانه آموزش داده است، می‌تواند شرکت را مجبور کند که نه تنها داده‌ها، بلکه کل الگوریتم ساخته شده بر اساس آن را حذف کند.[1][6]

این یک تهدید توخالی نیست. FTC در سال‌های اخیر با موفقیت از مصادره الگوریتمی علیه شرکت‌هایی که به طور غیرقانونی داده‌های افراد زیر سن قانونی را جمع‌آوری کرده بودند یا از رویه‌های فریبنده تشخیص چهره استفاده می‌کردند، استفاده کرده است. انتظار می‌رود چشم‌انداز مجبور شدن به نابودی یک مدل هوش مصنوعی چند میلیون دلاری، انطباق فوری را از سوی بخش‌های حقوقی شرکت‌ها در سراسر سیلیکون ولی به دنبال داشته باشد.[4][6]

اقدام نظارتی ایالات متحده با سخت‌گیری جهانی گسترده‌تری در مورد منشأ داده‌های هوش مصنوعی همسو است. در اتحادیه اروپا، GDPR (مقررات عمومی حفاظت از داده‌ها) از قبل محدودیت‌های سخت‌گیرانه‌ای را بر استفاده ثانویه از داده‌ها اعمال می‌کند و نیازمند یک مبنای قانونی روشن برای تغییر هدف اطلاعات است. هشدار FTC عملاً استاندارد مشابهی از محدودیت هدف را بدون نیاز به قانون‌گذاری جدید کنگره، وارد بازار آمریکا می‌کند.[2]

برای مصرف‌کنندگان عادی، تأثیر فوری احتمالاً موجی از درخواست‌های مجوز بسیار خاص خواهد بود. به جای به‌روزرسانی‌های پنهانی سیاست‌ها، کاربران می‌توانند انتظار داشته باشند که درخواست‌های واضح و جداگانه‌ای را ببینند که می‌پرسد آیا می‌توان از داده‌های آن‌ها برای آموزش ویژگی‌های هوش مصنوعی استفاده کرد یا خیر. نکته مهم این است که طبق دستورالعمل جدید، کاربران باید مجاز باشند که بدون از دست دادن دسترسی به سرویس اصلی، «نه» بگویند.[1][3]

حوزه اصلی عدم قطعیت در این است که FTC چگونه با داده‌های ناشناس شده یا تجمیع شده برخورد خواهد کرد. بسیاری از شرکت‌ها ادعا می‌کنند که اطلاعات شناسایی شخصی (PII) را قبل از خوراک دادن داده‌ها به مدل‌های هوش مصنوعی حذف می‌کنند. باید دید که آیا FTC ناشناس‌سازی قوی را به عنوان یک راهکار معتبر برای دور زدن الزام رضایت صریح می‌پذیرد، یا اینکه صرف عمل تغییر هدف داده‌ها باعث اجرای قانون می‌شود.[5]

در نهایت، هشدار FTC نقطه بلوغی برای صنعت هوش مصنوعی است. دوران «سریع حرکت کردن و جمع‌آوری همه چیز» با اولین مرزهای قانونی جدی خود روبرو شده است. با مجبور کردن شرکت‌ها به رفتار با داده‌های کاربر به عنوان یک دارایی قرض گرفته شده به جای یک منبع نامحدود، ناظران تضمین می‌کنند که نسل بعدی فناوری بر پایه‌ای از مجوز صریح ساخته شود.[4][6]