آنتروپیک برای انطباق با قانون هوش مصنوعی اتحادیه اروپا، واترمارک متنی نامرئی را روی کلود اعمال می‌کند

اگر از یک دستیار هوش مصنوعی برای پیش‌نویس یک ایمیل، ترجمه یک سند، یا صرفاً مرتب کردن نوشته‌های خود استفاده کنید، آن متن اکنون دارای یک امضای پنهان و دائمی خواهد بود. دوران ترکیب یکپارچه متن انسان و ماشین بدون هیچ ردی در حال پایان است و نحوه استفاده متخصصان از ابزارهای مولد برای کارهای روزمره را به طور اساسی تغییر می‌دهد.[2]

آنتروپیک یک واترمارک متنی نامرئی را در تمام مدل‌های جدید کلود در سطح جهانی، به همراه فراداده‌های رمزنگاری شده برای تصاویر و فایل‌ها، فعال کرده است. این سیاست که برای مدل‌های عرضه شده در تاریخ ۲ آگوست ۲۰۲۶ یا پس از آن اعمال می‌شود، برای انطباق با قوانین شفافیت قانون هوش مصنوعی اتحادیه اروپا اجرا شده است.[1][2][4]

آنتروپیک به جای تلاش برای محدود کردن این الزام به کاربران اروپایی، واترمارک را در سراسر جهان در رابط وب، API و ادغام‌های ابری خود اعمال می‌کند. این شرکت «آیین‌نامه عملی شفافیت محتوای تولید شده توسط هوش مصنوعی» اتحادیه اروپا را امضا کرده و به تقریباً ۲۰۰ سازمان دیگر پیوسته است که متعهد به استفاده از نشانه‌گذاری‌های قابل خواندن توسط ماشین هستند.[1][4][6]

سازوکار پشت واترمارک متنی متکی بر روش اساسی تولید نثر توسط مدل‌های زبان بزرگ است. سیستم‌های هوش مصنوعی با پیش‌بینی محتمل‌ترین کلمه بعدی در یک دنباله می‌نویسند. هنگامی که چندین کلمه به یک اندازه قابل قبول هستند – مانند انتخاب بین «ابری» و «خاکستری» – مدل معمولاً از یک مولد اعداد تصادفی برای انتخاب استفاده می‌کند.[1][7]

واترمارک آنتروپیک این تصادفی بودن را به طور ظریفی تغییر می‌دهد. با معرفی یک کلید رمزنگاری، سیستم «تاس‌ها را سنگین می‌کند» تا کلمات خاصی را ترجیح دهد. در حالی که یک انتخاب تغییر یافته برای خواننده قابل درک نیست، در طول چند پاراگراف، این انتخاب‌های کم‌اهمیت یک الگوی آماری متمایز را تشکیل می‌دهند.[2][7]

از آنجا که واترمارک مستقیماً در واژگان تنیده شده است و نه متکی بر کاراکترهای پنهان یا برچسب‌های فراداده، هنگام کپی و پیست شدن همراه متن منتقل می‌شود. آنتروپیک خاطرنشان می‌کند که این الگو حتی می‌تواند در برابر ویرایش‌های جزئی انسانی نیز مقاومت کند، اگرچه بازنویسی یا ترجمه سنگین در نهایت سیگنال را تضعیف خواهد کرد.[1][2]

با این حال، واقعیت فنی واترمارک بلافاصله با نحوه استفاده واقعی مردم از هوش مصنوعی در تضاد قرار گرفته است. یک واترمارک شناسایی شده تنها ثابت می‌کند که کلود متن را پردازش کرده است، نه اینکه ایده‌ها را تولید کرده است. اگر کاربری یک مقاله اصلی بنویسد و از کلود بخواهد آن را از نظر گرامری غلط‌گیری کند، خروجی حاصل همچنان دارای امضای آماری خواهد بود.[1][3]

این تمایز باعث واکنش شدید در میان کاربران حرفه‌ای شده است. نویسندگان، مهندسان نرم‌افزار و تحلیلگران کسب‌وکار شروع به لغو اشتراک‌ها کرده‌اند و ابراز نگرانی می‌کنند که کار اصلی آن‌ها به اشتباه توسط کارفرمایان، مشتریان یا مؤسسات دانشگاهی که از ابزارهای تشخیص استفاده می‌کنند، به عنوان تولید شده توسط هوش مصنوعی علامت‌گذاری شود.[3][7]

منتقدان استدلال می‌کنند که این سیستم با همه کلمات به عنوان قابل تعویض رفتار می‌کند، و هنر عمدی نوشتن را نادیده می‌گیرد و کاربران را مجبور می‌کند بین استفاده از هوش مصنوعی برای ویرایش‌های اولیه و حفظ مالکیت بی‌چون و چرای کار خود، یکی را انتخاب کنند. برخی از توسعه‌دهندگان نیز نگران پیامدهای داشتن یک نشانگر نامرئی در کدهای حرفه‌ای منتشر شده هستند.[3][5][7]

این اقدام نشان‌دهنده یک تغییر قابل توجه در رویکرد صنعت هوش مصنوعی به شفافیت است. در حالی که گوگل از فناوری مشابه SynthID برای مدل‌های جِمینای خود استفاده کرده است، سایر بازیگران اصلی مانند اوپن‌ای‌آی به دلیل نگرانی در مورد مثبت‌های کاذب و مزیت‌های رقابتی، در اجرای واترمارکینگ متنی تردید داشته‌اند. اکنون که قانون هوش مصنوعی اتحادیه اروپا این موضوع را اجباری کرده است، بحث در مورد اینکه چه کسی واقعاً نویسنده یک سند است، از اخلاق نظری به عمل روزمره منتقل می‌شود.[2][4]