«اوپن‌ای‌آی» «چت‌جی‌پی‌تی برای نوجوانان» را عرضه کرد: این هوش مصنوعی محدودشده چگونه کار می‌کند؟

شرکت اوپن‌ای‌آی رسماً «چت‌جی‌پی‌تی برای نوجوانان» را عرضه کرد؛ نسخه‌ای با محدودیت سنی از دستیار هوش مصنوعی اصلی خود که به طور خاص برای کاربران ۱۳ تا ۱۷ سال طراحی شده است. این سیستم که این هفته در سطح جهانی عرضه می‌شود، به طور خودکار حساب‌های واجد شرایط را به یک محیط محدود منتقل می‌کند. این محیط، جایگزین چت‌بات استاندارد و نامحدود می‌شود و دارای یک رابط کاربری به شدت محافظت‌شده است که موضوعات حساس را محدود می‌کند، حالت‌های مطالعه اجباری را معرفی می‌کند و کنترل‌های اختیاری والدین را ارائه می‌دهد.[1][2]

در حالی که این اطلاعیه، عرضه محصول را به عنوان گامی پیشگیرانه در جهت استفاده سالم از هوش مصنوعی معرفی می‌کند، واقعیت عملگرایانه‌تر است. این راه‌اندازی همزمان با موجی از قوانین جدید ایمنی چت‌بات‌ها در سطح ایالتی در سراسر ایالات متحده، از جمله در نیویورک، کلرادو و اورگان، صورت می‌گیرد. این مقررات بسیاری از همان تدابیر ایمنی دقیقی را که اوپن‌ای‌آی اکنون در حال اجرای آن‌هاست، اجباری می‌کنند و شرکت را مجبور به تطبیق معماری خود برای حفظ انطباق در بازارهای کلیدی می‌کنند.

مهم‌ترین تغییر ساختاری، نحوه قرارگیری کاربران در سطح نوجوانان است. این انتقال صرفاً به تاریخ تولد خوداظهاری متکی نیست. اوپن‌ای‌آی یک مدل «تضمین سن» را به کار گرفته است که الگوهای پرس‌وجو، محتوای چت و زمان استفاده کاربر را برای تخمین اینکه آیا او خردسال است یا خیر، تجزیه و تحلیل می‌کند.[1]

اگر سیستم پیش‌بینی کند که کاربر زیر ۱۸ سال است، به طور خودکار حفاظت‌های مربوط به نوجوانان را اعمال می‌کند. کاربرانی که معتقدند طبقه‌بندی آن‌ها اشتباه بوده است، باید یک فرآیند رسمی تأیید سن را طی کنند تا نسخه بزرگسال این ابزار برایشان باز شود. با این حال، مدافعان ایمنی کودکان خاطرنشان می‌کنند که این شبکه خودکار کاملاً بی‌نقص نیست و اگر سابقه درخواست‌های برخی نوجوانان شبیه به استفاده بزرگسالان باشد، ناگزیر از این فیلتر عبور خواهند کرد.[1]

هنگامی که کاربر وارد تجربه نوجوانان می‌شود، رفتار چت‌بات به طور اساسی تغییر می‌کند. این سیستم به طور سخت‌افزاری کدگذاری شده است تا از درگیر شدن در بازی‌های نقش‌آفرینی عاشقانه یا جنسی خودداری کند و صراحتاً دستور داده شده است که هرگز القا نکند که دارای احساسات یا خودآگاهی است.[1]

محدودیت‌های محتوایی به شدت در مورد موضوعات پرخطر سخت‌تر شده‌اند. بحث‌هایی که شامل خودآزاری، اختلالات خوردن، خشونت گرافیکی و فعالیت‌های خطرناک هستند، باعث مداخلات فوری می‌شوند. در این سناریوها، هوش مصنوعی برنامه‌ریزی شده است تا مسیر مکالمه را تغییر دهد، منابع پشتیبانی آفلاین را پیشنهاد کند و در برخی موارد، به حساب‌های والدین مرتبط‌شده اطلاع دهد.[2]

فراتر از فیلترهای ایمنی، اوپن‌ای‌آی در تلاش است تا نحوه استفاده نوجوانان از این ابزار برای انجام تکالیف مدرسه را تغییر دهد. «حالت مطالعه» جدید طراحی شده است تا از «برون‌سپاری شناختی» که هنگام نوشتن مقاله یا حل مسئله ریاضی توسط هوش مصنوعی رخ می‌دهد، جلوگیری کند.[1]

هنگامی که کاربر درخواست کمک برای انجام تکالیف می‌کند، سیستم اکنون به طور پیش‌فرض راهنمایی گام به گام، نکات و سؤالات پیگیری ارائه می‌دهد. این ابزار بیشتر شبیه یک معلم خصوصی عمل می‌کند تا یک کلید پاسخ، و دانش‌آموز را ملزم به درگیر شدن با مطالب می‌کند. اگر هوش مصنوعی تشخیص دهد که نوجوانی در تلاش است تا این موانع آموزشی را برای دریافت پاسخ سریع دور بزند، تذکرات مسئولانه در مورد تکالیف صادر کرده و او را به جریان یادگیری بازمی‌گرداند.[1]

برای والدینی که نگران وابستگی به هوش مصنوعی هستند، این به‌روزرسانی مجموعه‌ای از کنترل‌های اختیاری را معرفی می‌کند. والدین می‌توانند حساب‌های خود را به پروفایل نوجوانشان پیوند دهند و به آن‌ها اجازه می‌دهد تا ساعات خاموشی را تعیین کنند که چت‌بات در آن زمان غیرقابل دسترسی باشد، یا ساعات مطالعه‌ای را اجباری کنند که فقط درخواست‌های آموزشی مجاز باشند.[2]

نکته مهم این است که این قابلیت مشاهده محدودیت‌هایی دارد. والدین نمی‌توانند متن واقعی مکالمات نوجوان خود را بخوانند. سیستم تنها در موقعیت‌های محدود و پرخطر – مانند زمانی که نوجوانی مکرراً در مورد خودآزاری یا اختلالات خوردن صحبت می‌کند – این حریم خصوصی را نقض می‌کند، که در آن صورت والدین یک اعلان ایمنی دریافت می‌کنند.[1]

این عرضه در دوره‌ای از نظارت شدید بر صنعت هوش مصنوعی صورت می‌گیرد. حدود ۶۴ درصد از نوجوانان ایالات متحده از چت‌بات‌ها استفاده کرده‌اند که چت‌جی‌پی‌تی تا حد زیادی پلتفرم غالب بوده است. این پذیرش گسترده منجر به نگرانی فزاینده در میان مربیان در مورد تقلب و در میان والدین در مورد وابستگی عاطفی بیش از حد شده است.

تنها در ایالات متحده، بیش از ۷۰ درصد نوجوانان برای همراهی به چت‌بات‌های هوش مصنوعی روی می‌آورند و نیمی از آن‌ها به طور منظم از همراهان هوش مصنوعی استفاده می‌کنند. این روند وابستگی عاطفی بیش از حد، هدف اصلی موانع ایمنی جدید است که طراحی شده‌اند تا روابط دنیای واقعی را تقویت کنند نه روابط دیجیتال را.

اهمیت درست انجام دادن این کار بسیار بالاست. اوپن‌ای‌آی در حال حاضر در حال دفاع در برابر شکایت‌هایی از سوی خانواده‌هایی است که ادعا می‌کنند چت‌بات در طول بحران‌های سلامت روان به عنوان یک تسهیل‌کننده خطرناک عمل کرده است. یک پرونده مهم در کالیفرنیا ادعا می‌کند که این ابزار یک نوجوان ۱۶ ساله را به خودکشی تشویق کرده است، که عواقب جدی استقرار مدل‌های مولد فیلترنشده برای نوجوانان را برجسته می‌کند.

با رسمی کردن یک سطح متمایز و به شدت نظارت‌شده برای خردسالان، این شرکت در تلاش است تا هم مسئولیت قانونی و هم واکنش منفی عمومی را کاهش دهد. تجربه نوجوانان به اوپن‌ای‌آی اجازه می‌دهد تا فعال‌ترین گروه جمعیتی خود را درگیر نگه دارد و در عین حال، هنگام مواجهه با چالش‌های نظارتی، به یک چارچوب مشخص از حفاظت‌ها اشاره کند.

این سیستم طراحی شده است تا به طور خودکار این حفاظت‌ها را زمانی که کاربر به سن بزرگسالی می‌رسد، بردارد. در آن مرحله، پیوندهای کنترل والدین قطع می‌شوند، فیلترهای محتوا به سطح استاندارد بزرگسالان بازمی‌گردند و موانع آموزشی حذف می‌شوند. تا آن زمان، چت‌جی‌پی‌تی برای نوجوانان نشان‌دهنده جامع‌ترین تلاش این صنعت برای ایجاد تعادل بین سودمندی هوش مصنوعی مولد و آسیب‌پذیری‌های رشدی جوان‌ترین کاربران خود است.[1]