شرکت Anthropic به‌تازگی تصمیم گرفته است روی خروجی‌های متنی مدل Claude واترمارک (watermark) قرار دهد؛ به این ترتیب که کدهای نامرئی در متن‌های متنی تولیدشده توسط این چت‌بات گنجانده می‌شود تا مشخص گردد محتوا توسط هوش مصنوعی تولید شده است.
شرکت Anthropic این سیاست جدید را برای پایبندی به «کد شفافیت قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act Transparency Code) اجرا کرده است؛ قانونی که شرکت‌های فناوری را ملزم می‌سازد محتوای تولیدشده یا ویرایش‌شده توسط سیستم‌های کامپیوتری را نشانه‌گذاری کنند. با این حال، اگرچه قانون‌گذاران اروپایی از این اقدام خشنود هستند، برخی از کاربران هوش مصنوعی اصلاً از آن رضایت ندارند.
برای مشاهده نشانه‌های این نارضایتی کافی است به Reddit نگاهی بیندازید، هرچند همه کاربران در این وب‌سایت با یکدیگر هم‌نظر نیستند. یکی از پست‌های تند توسط کاربری به نام visionode منتشر شده که حساب کاربری او تنها سه هفته قدمت دارد. به ادعای این کاربر، سیستم جدید واترمارک‌گذاری یک توطئه سخت‌گیرانه است که برای قربانی کردن کاربران بی‌گناه چت‌بات‌ها در سرا سراسر جهان طراحی شده است.
استدلال اصلی visionode این است که اگرچه کاربران حرفه‌ای Claude می‌توانند با بازنویسی یا اصلاح خروجی‌ها از طریق سایر سرویس‌های هوش مصنوعی، اثر استفاده خود را پنهان کنند، اما کاربران معمولی Claude لو خواهند رفت.
blockquote>«چه کسی لو خواهد رفت؟ شما. دانشجویی که از Claude برای بازنویسی یک پاراگراف استفاده کرده است. خبرنگاری که از هوش مصنوعی خواسته پیاده‌سازی متنی یک فایل صوتی ۲۰۰ صفحه‌ای را خلاصه کند. یا نویسنده‌ای که دچار انسداد ذهنی شده و معادل کلمات را خواسته است. این افراد در نهایت با یک خالکوبی دیجیتال روی پیشانی خود از این فرایند خارج می‌شوند.»
با اینکه قصد زیر سؤال بردن خشم این کاربر را نداریم، اما این مثال‌ها چندان مناسب نیستند. خبرنگاری که از هوش مصنوعی می‌خواهد متنی ۲۰۰ صفحه‌ای را خلاصه کند، نگران وجود واترمارک در آن خلاصه نخواهد بود؛ مگر اینکه قصد داشته باشد همان خلاصه را عیناً و کلمه‌به‌کلمه در مقاله خود کپی کند، کاری که کاملاً غیراخلاقی است.
به همین ترتیب، کپی کردن خروجی Claude در یک مقاله تحصیلی توسط دانشجو پس از درخواست بازنویسی پاراگراف نیز اقدامی غیراخلاقی محسوب می‌شود.
سایر کاربران Reddit نیز حمایت چندانی از خشم این کاربر نشان ندادند. یکی از کاربران به سادگی کامنت گذاشت: «این آقا را نگاه کنید!» و کاربر دیگری نیز از او خواست تا «یک نفس عمیق بکشد».
با این حال visionode تنها فرد معترض نبود. یکی دیگر از کاربران ناراضی، این واترمارک‌ها را «غیراخلاقی» و «چندش‌آور» خواند و مدعی شد که با دادن دستورالعمل‌ها به Claude، بخش اصلی کار را خودش انجام داده است و چت‌بات صرفاً یک ابزار بوده است:
blockquote>«من دستورالعمل‌ها، زمینه، تصمیم‌گیری‌ها و اصلاحات بی‌شمار را ارائه دادم و Claude فقط ابزار بود. اگر Claude شروع به واترمارک‌گذاری کد یا هر چیز دیگری که تولید می‌کند کند، دقیقاً ادعای چه اعتباری دارد؟»
بار دیگر، سایر کاربران به پاسخ به این منتقد پرداختند. یکی از کاربران پاسخ داد: «بحث ادعای مالکیت نیست، بلکه مسئله امکان تشخیص خروجی‌های تولیدشده توسط هوش مصنوعی است؛ زیرا این خروجی‌ها در موقعیت‌های مختلف می‌توانند خطراتی ایجاد کنند.» کاربر دیگری نیز به شوخی گفت: «طرف حتی نتوانسته بدون استفاده از Claude از خود Claude شکایت کند!»
برخی دیگر از منتقدان، بدون ورود به بحث‌های قربانی‌نمایی، استدلال‌های دقیق‌تری را علیه سیاست جدید Anthropic مطرح کرده‌اند. برای نمونه، کاربری از تناقض موجود در واترمارک‌گذاری متنی شکایت کرد که خودش با جمع‌آوری کارهای دیگران آموزش دیده است: «من از Claude برای نوشتن چیزی استفاده نمی‌کنم، اما داشتن هوش مصنوعی که روی کار شما واترمارک می‌گذارد، با توجه به اینکه چقدر از مدل‌های پیشرو داده‌های آموزشی خود را از اثر دیگران به دست آورده‌اند، به‌طرز ترسناکی متناقض است.»
با این حال به طور کلی، بیشتر کاربران از سیستم واترمارک‌گذاری به عنوان روشی معقول برای پیگیری محتوای تولیدشده توسط الگوریتم‌ها حمایت کرده‌اند. کاربری در رشته‌گفتگوی دیگری گفت: «هیچ دلیل منطقی برای خوب نبودن این ایده وجود ندارد. تنها دلیلی که ممکن است این ویژگی را نخواهید، این است که بخواهید به مردم دروغ بگوویید.»
چرا این خبر مهم است؟
الزام به درج واترمارک نامرئی در خروجی مدل‌های هوش مصنوعی گامی بزرگ در جهت شفافیت و اجرای قوانین جدید نظارتی مانند قانون هوش مصنوعی اتحادیه اروپا است. این اقدام چالشی جدی برای افرادی ایجاد می‌کند که از چت‌بات‌ها برای سرقت ادبی یا تولید محتوای غیرواقعی استفاده می‌کنند و مرز بین تولید انسان و ماشین را شفاف‌تر می‌سازد. همچنین این تغییر می‌تواند جریان کاری کاربران حرفه‌ای، پژوهشگران و تولیدکنندگان محتوا را کاملاً تحت تأثیر قرار دهد.
وضعیت کاربران ایرانی
کاربران ایرانی که از چت‌بات Claude برای نگارش مقالات دانشگاهی، تولید محتوای وب یا خلاصه‌سازی متون استفاده می‌کنند، تحت تأثیر این سیستم جدید قرار خواهند گرفت. در صورت درج واترمارک نامرئی، خروجی‌های متنی این مدل توسط ابزارهای کشف هوش مصنوعی و سیستم‌های دانشگاهی به‌راحتی قابل تشخیص خواهد بود.