بده‌بستان مسئولیت: قوانین جدید اتحادیه اروپا برای نرم‌افزار و هوش مصنوعی معیوب چگونه فناوری مصرف‌کننده را متحول می‌کند

برای نزدیک به چهل سال، قوانین حمایت از مصرف‌کننده در اروپا برای دنیای فیزیکی طراحی شده بودند. اگر یک ماشین لباسشویی منفجر می‌شد یا یک توستر آتش می‌گرفت، دستورالعمل مسئولیت محصول سال ۱۹۸۵ تضمین می‌کرد که تولیدکننده خسارت را بپردازد. اما با دیجیتالی شدن جهان، یک خلأ قانونی بزرگ پدید آمد: نرم‌افزار از نظر قانونی «محصول» محسوب نمی‌شد. اگر یک سیستم عامل پر از نقص باعث از کار افتادن یک کسب‌وکار می‌شد، یا یک اپلیکیشن مسیریابی معیوب کاربر را به بیراهه می‌کشاند، شرکت‌های فناوری پشت بندهای «همان‌طور که هست» (as-is) و توافق‌نامه‌های فشرده مجوز کاربر نهایی پنهان می‌شدند.

آن دوران کدنویسی بدون عواقب رسماً به پایان می‌رسد. در حالی که کشورهای عضو در حال نهایی کردن تبدیل دستورالعمل بازنگری شده مسئولیت محصول (PLD) به قانون ملی در سال جاری هستند، اتحادیه اروپا اساساً مرزهای مسئولیت شرکتی را از نو ترسیم کرده است. این دستورالعمل جدید صراحتاً نرم‌افزار، سیستم‌های هوش مصنوعی و حتی فایل‌های تولید دیجیتال—مانند طرح‌های اولیه برای چاپگرهای سه‌بعدی—را به عنوان محصولاتی مشمول مسئولیت مطلق (Strict Liability) طبقه‌بندی می‌کند.[1][3]

رادیکال‌ترین تغییر در رژیم جدید، مفهوم «فرض قابل رد معیوب بودن» است. طبق قوانین قدیمی، مصرف‌کننده‌ای که آسیب می‌دید باید دقیقاً ثابت می‌کرد که محصول چگونه معیوب بوده است. برای یک کالای فیزیکی، این کار دشوار اما ممکن بود. اما برای یک مدل هوش مصنوعی اختصاصی «جعبه سیاه» با میلیاردها پارامتر، از نظر فنی برای یک شهروند عادی غیرممکن است که شکست آن را مهندسی معکوس کند.[2]

دستورالعمل جدید مسئولیت محصول (PLD) این پویایی را کاملاً برعکس می‌کند. اگر مصرف‌کننده بتواند نشان دهد که یک سیستم هوش مصنوعی یا نرم‌افزار احتمالاً به او آسیب رسانده است، و پیچیدگی فنی اثبات نقص دقیق را بیش از حد دشوار می‌سازد، دادگاه به سادگی فرض می‌کند که محصول معیوب بوده است. در این صورت، بار اثبات به شرکت فناوری منتقل می‌شود، که باید اسناد خود را ارائه دهد، الگوریتم‌هایش را فاش کند و به دادگاه ثابت کند که نرم‌افزارش بی‌نقص بوده است.[2]

علاوه بر این، تعریف «خسارت» به شدت گسترش یافته است. از لحاظ تاریخی، مسئولیت فقط شامل مرگ، آسیب شخصی یا خسارت به اموال فیزیکی بیش از ۵۰۰ یورو می‌شد. دستورالعمل به‌روز شده این آستانه مالی را لغو می‌کند و مهم‌تر از آن، از بین رفتن یا فاسد شدن داده‌ها را به فهرست خسارات قابل جبران اضافه می‌کند. اگر به‌روزرسانی فریم‌ور یک سیستم امنیتی هوشمند باعث از کار افتادن کامل هارد درایوی شود که حاوی عکس‌های خانوادگی غیرقابل جایگزین یا فایل‌های حیاتی کسب‌وکار است، تولیدکننده مسئولیت مطلق این ضرر را بر عهده دارد.

هنگام مقایسه رژیم قدیمی با رژیم جدید، بده‌بستان‌ها به وضوح آشکار می‌شوند. برای مصرف‌کنندگان، دستورالعمل جدید مسئولیت محصول هنگام خرید دستگاه‌های خانه هوشمند پیچیده و مجهز به هوش مصنوعی یا گجت‌های پوشیدنی ردیابی سلامت، کاملاً مناسب است. این دستورالعمل یک شبکه ایمنی بی‌سابقه فراهم می‌کند و تضمین می‌کند که اگر یک سیستم خودکار مرتکب خطای فاجعه‌بار شود، کاربر تنها نخواهد ماند. این قانون شرکت‌ها را مجبور می‌کند تا آزمایش‌های ایمنی دقیق را بر شعار دره سیلیکون یعنی «سریع حرکت کن و خراب کن» اولویت دهند.[3]

با این حال، این توانمندسازی مصرف‌کننده هزینه‌ای سنگین برای اکوسیستم کسب‌وکار دارد. چارچوب جدید مسئولیت برای نمونه‌سازی سریع یا استارتاپ‌های اولیه مناسب نیست. بنیان‌گذاران فناوری و سرمایه‌گذاران خطرپذیر هشدار می‌دهند که خطر صرف توهم (Hallucination) یک هوش مصنوعی سرکش که منجر به یک دعوی حقوقی دسته‌جمعی بزرگ شود، بیمه مسئولیت را برای شرکت‌های کوچک‌تر به طرز غیرقابل تحملی گران خواهد کرد و احتمالاً قدرت را در میان غول‌های فناوری که توانایی تحمل ریسک قانونی را دارند، متمرکز می‌کند.

پیامد فوری این بازطراحی نظارتی، یک تجربه خرید جهانی تکه‌تکه شده است. برای کاهش ریسک، شرکت‌های بزرگ فناوری در حال حاضر ویژگی‌های آزمایشی خود را محدود به مناطق جغرافیایی خاص (geofencing) می‌کنند. دستیارهای صوتی پیشرفته، تشخیص‌های خودکار سلامت، و ابزارهای هوش مصنوعی مولد که به راحتی در ایالات متحده یا آسیا عرضه می‌شوند، از بازار اروپا به تعویق افتاده یا به طور دائم حذف می‌شوند تا زمانی که تیم‌های حقوقی آن‌ها بتوانند انطباق با قوانین را تضمین کنند.[3]

یک استثنای محدود برای محافظت از جامعه متن‌باز (Open-Source) طراحی شده است. نرم‌افزار رایگان و متن‌باز که خارج از بستر فعالیت تجاری توسعه یافته باشد، از قوانین مسئولیت مطلق معاف است. با این حال، به محض اینکه یک مدل متن‌باز در یک محصول تجاری ادغام شود—مانند یک بلندگوی هوشمند که برای سود فروخته می‌شود—تولیدکننده آن دستگاه فیزیکی، مسئولیت کامل کد متن‌باز درون آن را به ارث می‌برد.[1][2]

در نهایت، بازطراحی مسئولیت توسط اتحادیه اروپا، یک بازنگری جهانی را برای فناوری مصرف‌کننده تحمیل می‌کند. از آنجا که طراحی دو نسخه جداگانه از یک محصول—یکی به اندازه کافی ایمن برای اروپا و دیگری پرخطرتر برای بقیه جهان—اغلب از نظر اقتصادی غیرقابل توجیه است، «اثر بروکسل» احتمالاً استانداردهای ایمنی نرم‌افزار را در سطح جهانی بالا خواهد برد. مصرف‌کنندگان در سراسر جهان ممکن است به زودی متوجه شوند که محصولات دیجیتالی‌شان دیرتر به دستشان می‌رسد، اما هنگام رسیدن به طور قابل توجهی ایمن‌تر هستند.[3]