متا بررسی تشخیص چهره برای عینک‌های هوش مصنوعی را در بحبوحه بحث حریم خصوصی تأیید کرد

اندرو بازورث، مدیر ارشد فناوری متا، علناً تأیید کرده است که این شرکت در حال بررسی ادغام فناوری تشخیص چهره در عینک‌های هوشمند مجهز به هوش مصنوعی خود است. بازورث در مصاحبه اخیر با نیکلاس تامپسون، روزنامه‌نگار، توضیح داد که چگونه این قابلیت در درجه اول به عنوان یک ابزار دسترسی‌پذیری ارزیابی می‌شود که برای کمک به کاربران در شناسایی افراد در محیط اطرافشان طراحی شده است. این افشاگری نشان‌دهنده لحظه‌ای مهم از شفافیت برای این غول فناوری است که از لحاظ تاریخی پس از بررسی‌های شدید عمومی، با احتیاط فراوان در حوزه بیومتریک حرکت کرده است. متا با بحث علنی در مورد پتانسیل شناسایی چهره در یک دستگاه پوشیدنی، سیگنال می‌دهد که دوران عوامل هوش مصنوعی همیشه روشن و آگاه به متن به سرعت در حال نزدیک شدن است و جامعه را مجبور می‌کند تا در مورد نحوه عملکرد این ابزارها در فضاهای فیزیکی مشترک به توافق برسد.[1]

به گفته بازورث، محرک اصلی این بررسی، تقاضای زیاد از سوی جامعه دسترسی‌پذیری است. برای کاربران کم‌بینا، توانایی شناسایی محتاطانه افرادی که وارد اتاق شده‌اند یا با آنها صحبت می‌کنند، جهشی عمیق در استقلال شخصی محسوب می‌شود. بازورث اشاره کرد که متداول‌ترین درخواستی که متا از کاربران نابینا دریافت می‌کند، صرفاً این است: «به من بگو چه کسی اینجاست.» فراتر از اختلالات بینایی، این فناوری برای کمک‌های شناختی نیز در حال ارزیابی است. کهنه‌سربازانی که از آسیب‌های مغزی تروماتیک رنج می‌برند و افراد مسن‌تری که دچار اختلال حافظه هستند، اغلب در به خاطر سپردن چهره‌ها و سوابق شخصی مشکل دارند. یک دستگاه پوشیدنی که می‌تواند به آرامی نام و زمینه آشنایی فرد نزدیک شونده را به کاربر یادآوری کند، می‌تواند به طور چشمگیری اصطکاک اجتماعی و اضطراب را برای این گروه‌ها کاهش دهد.[1]

برای رسیدگی به نگرانی‌های فوری حریم خصوصی که با هرگونه اشاره به تشخیص چهره همراه است، متا یک معماری کاملاً محلی‌شده را پیشنهاد می‌کند. بازورث تأکید کرد که این شرکت هیچ قصدی برای ساخت یا دسترسی به یک «پایگاه داده مرکزی جهانی از چهره‌ها» ندارد که بتوان از آن برای شناسایی غریبه‌ها در خیابان استفاده کرد. در عوض، این سیستم بیشتر شبیه یک دفترچه تلفن دیجیتال از مخاطبین شخصی عمل خواهد کرد. پردازش تشخیص چهره به طور کامل روی خود دستگاه انجام می‌شود و امضاهای بیومتریک به صورت محلی رمزگذاری می‌شوند. کاربران تنها قادر خواهند بود افرادی را شناسایی کنند که قبلاً به طور صریح با آنها ملاقات کرده و به صورت دستی به سیستم معرفی کرده‌اند—اساساً به عینک می‌گویند: «این دیوید است، دفعه بعد او را به خاطر بسپار.»[1][2]

با وجود این محدودیت‌های پیشنهادی، این افشاگری پس از چند ماه پرمناقشه در مورد جاه‌طلبی‌های بیومتریک متا صورت می‌گیرد. در ماه ژوئن، محققان امنیتی از بنیاد مرزهای الکترونیکی (EFF) و سایر رسانه‌ها، کدهای پنهان «NameTag» را کشف کردند که در برنامه همراه هوش مصنوعی متا جاسازی شده بودند. این کد غیرفعال حاوی مدل‌های یادگیری ماشینی و پایگاه‌های داده‌ای بود که برای تشخیص، دیجیتالی کردن و ذخیره امضاهای بیومتریک افرادی که توسط دوربین‌های عینک ثبت شده‌اند، طراحی شده بودند. پس از گزارش‌های عمومی در مورد این کشف، متا بی‌سروصدا یک به‌روزرسانی نرم‌افزاری منتشر کرد که کتابخانه‌های تشخیص چهره و پوشه‌های شناسایی را از برنامه حذف کرد. این شرکت ابتدا دامنه پروژه را انکار کرد، تا اینکه بازورث اخیراً آن را تأیید نمود.[6]

سازمان‌های آزادی‌های مدنی، صرف نظر از رویکرد محلی‌شده متا، به سرعت علیه احتمال عینک‌های اسکن‌کننده چهره بسیج شده‌اند. ائتلافی متشکل از ۷۵ سازمان، به رهبری اتحادیه آزادی‌های مدنی آمریکا (ACLU)، اخیراً نامه‌ای سرگشاده منتشر کرده و خواستار آن شده‌اند که متا برای همیشه هرگونه برنامه‌ای برای تجهیز عینک‌های هوشمند Ray-Ban و عینک‌های اختصاصی خود به تشخیص چهره را کنار بگذارد. این ائتلاف استدلال می‌کند که این فناوری تهدیدی غیرقابل قبول برای گمنامی عمومی است و هشدار می‌دهد که حتی یک سیستم محلی‌شده نیز عمل اسکن جمعیت را عادی‌سازی می‌کند. مدافعان حریم خصوصی نگرانند که به محض عادی شدن قابلیت سخت‌افزاری، تنها مسئله زمان است که اصلاحات شخص ثالث یا به‌روزرسانی‌های نرم‌افزاری آینده به عوامل مخرب اجازه دهد چهره‌های ثبت‌شده را به پایگاه‌های داده عمومی پیوند دهند و به تعقیب‌کنندگان یا کلاهبرداران امکان شناسایی غریبه‌ها در اعتراضات، کلینیک‌ها یا مترو را بدهند.[5]

تنش بین کاربرد و نظارت با طراحی فیزیکی خود عینک‌ها پیچیده‌تر می‌شود. برخلاف یک تلفن هوشمند که برای ضبط نیاز به نگه داشتن آشکار دستگاه توسط کاربر دارد، عینک‌های هوشمند داده‌ها را به صورت غیرفعال از دیدگاه کاربر ثبت می‌کنند. برای محافظت از رهگذران، عینک‌های متا دارای یک «چراغ LED ضبط» سفید روشن هستند که هر زمان دوربین فعال باشد، روشن می‌شود. با این حال، یک صنعت کوچک از اصلاح‌کنندگان سخت‌افزاری پدید آمده است که خدماتی را برای حذف یا غیرفعال کردن این LED ارائه می‌دهند و عملاً عینک‌ها را به ابزارهای نظارتی مخفی تبدیل می‌کنند.[4][7]

در یک اقدام شدید علیه این بازار سیاه، متا اخیراً یک به‌روزرسانی اجباری میان‌افزار (فریم‌ور) را منتشر کرد که در صورت تشخیص پوشانده شدن، تخریب یا دستکاری فیزیکی چراغ LED حریم خصوصی، دوربین را برای همیشه غیرفعال می‌کند. این به‌روزرسانی که به صورت عطف به ماسبق برای تمام عینک‌های Ray-Ban Meta نسل دوم و عینک‌های جدید متا اعمال می‌شود، از یک حسگر نور محیطی برای تأیید یکپارچگی LED قبل از اجازه دادن به عملکرد دوربین استفاده می‌کند. اگر نور نتواند بتابد، دستگاه عملاً به عنوان یک دوربین از کار می‌افتد. متا همچنین شروع به مسدود کردن حساب‌های کاربرانی کرده است که این خدمات اصلاحی را تبلیغ می‌کنند و این نشان‌دهنده سیاست تحمل صفر در برابر دستکاری سخت‌افزاری است که رضایت رهگذران را دور می‌زند.[4]

با این حال، حتی در حالی که متا از اقدامات حفاظتی سخت‌افزاری خود دفاع می‌کند، تحولات داخلی نشان می‌دهد که این شرکت برای آینده‌ای آماده می‌شود که در آن عینک‌ها بسیار بیشتر از ویدیوهای گاه به گاه ضبط می‌کنند. بر اساس گزارشی اخیر از فایننشال تایمز، متا فعالانه در حال نمونه‌سازی عینک‌های هوشمند نسل بعدی است که دارای قابلیت هوش مصنوعی همیشه روشن هستند و در داخل شرکت با عنوان «حسگری فوق‌العاده» (super sensing) شناخته می‌شوند. این ویژگی آزمایشی به طور مداوم صدا را ضبط کرده و هر چند ثانیه یک بار عکس می‌گیرد و به هوش مصنوعی داخلی اجازه می‌دهد تا درک پایداری از محیط کاربر حفظ کند. هدف این است که هوش مصنوعی از یک دستیار صوتی واکنشی به یک عامل فعال تبدیل شود که می‌تواند، برای مثال، به کاربر یادآوری کند که کلیدهای خود را روی پیشخوان آشپزخانه جا گذاشته یا هنگام عبور از کنار یک فروشگاه مواد غذایی، خرید مواد لازم را پیشنهاد دهد.[3]

نمونه اولیه «حسگری فوق‌العاده» بحث‌های داخلی شدیدی را در متا در مورد چراغ LED ضبط برانگیخته است. از آنجایی که عینک‌ها به طور مداوم عکس می‌گیرند، روشن نگه داشتن دائمی LED هم از نظر اجتماعی مخل است و هم باتری را تخلیه می‌کند. در نتیجه، گزارش شده است که مدیران در حال بررسی معماری‌هایی هستند که هوش مصنوعی مداوم را بدون فعال کردن چراغ هشدار اجرا کنند. برای کاهش خطرات حریم خصوصی، مهندسان سیستمی را پیشنهاد کرده‌اند که تنها فراداده (metadata) را از تصاویر مداوم استخراج می‌کند و محتوای متنی را به سرورهای متا آپلود می‌کند، در حالی که تصاویر و صدای خام را بلافاصله دور می‌اندازد.[3]

همانطور که این فناوری‌ها از آزمایشگاه به خیابان‌ها راه می‌یابند، نهادهای دنیای واقعی در حال حاضر نسبت به ابهام دوربین‌های پوشیدنی واکنش نشان می‌دهند. سیستم قضایی یکپارچه ایالت نیویورک اخیراً ممنوعیت کلی برای عینک‌های هوشمند مجهز به دوربین در تمام دادگاه‌ها صادر کرده است و محدودیت‌های مشابهی در دادگاه‌های فیلادلفیا و در کشتی‌های تفریحی مختلف در حال اجرا است. این ممنوعیت‌های پیشگیرانه نشان‌دهنده یک نگرانی اجتماعی فزاینده است: حتی اگر کاربر ادعا کند که فقط از عینک برای ترجمه هوش مصنوعی یا کمک به حافظه استفاده می‌کند، رهگذران و پرسنل امنیتی راه قابل اعتمادی برای تأیید اینکه چه داده‌هایی در حال ثبت شدن است یا چه کسی در حال تجزیه و تحلیل شدن است، ندارند.[2][7]

چالشی که متا—و به زودی رقبایی مانند اپل و گوگل—با آن روبرو هستند، اساساً یک چالش هنجارسازی اجتماعی است. بازورث علناً تردیدهای کنونی در مورد عینک‌های هوشمند را با روزهای اولیه دوربین‌های تلفن‌های هوشمند مقایسه کرده است، که آنها نیز قبل از پذیرش جهانی با واکنش شدید حریم خصوصی مواجه شدند. با این حال، تشخیص چهره یک تغییر پارادایم ایجاد می‌کند. دوربین تلفن هوشمند یک لحظه را ثبت می‌کند؛ اما یک عامل هوش مصنوعی مجهز به تشخیص چهره، به طور فعال افراد حاضر در آن لحظه را تفسیر و فهرست‌بندی می‌کند.[2]

در نهایت، ادغام تشخیص چهره در ابزارهای پوشیدنی مصرف‌کننده، تلاقی بین کاربرد فردی عمیق و حریم خصوصی جمعی را نشان می‌دهد. برای یک کاربر کم‌بینا، این فناوری درجه‌ای از استقلال و اعتماد به نفس اجتماعی را ارائه می‌دهد که زندگی را تغییر می‌دهد. برای یک مدافع حریم خصوصی، این نشان‌دهنده فروپاشی نهایی گمنامی عمومی است. در حالی که متا به پالایش مدل‌های رمزگذاری محلی و میان‌افزارهای ضد دستکاری خود ادامه می‌دهد، این شرکت تنها یک محصول طراحی نمی‌کند—بلکه در حال تدوین قرارداد اجتماعی برای عصر واقعیت افزوده است و دقیقاً تعیین می‌کند که چه مقدار از دنیای فیزیکی می‌تواند دیجیتالی، فهرست‌بندی و در گوش کاربر زمزمه شود.[1][5]