واترمارک نامرئی آنتراپیک برای محتوای Claude: پیامدها برای تولیدکنندگان محتوای ایرانی

شرکت آنتراپیک (Anthropic) اعلام کرد که در متون تولیدشده توسط مدل‌های جدید هوش مصنوعی خود یعنی کلود (Claude)، واترمارک‌های نامرئی تعبیه می‌کند و فراداده‌های امضاشده را به فایل‌های خروجی اضافه خواهد کرد. این اقدام که در سطح جهانی پیاده‌سازی می‌شود، بخشی از تعهد این شرکت به «قانون هوش مصنوعی اتحادیه اروپا» برای افزایش شفافیت است.

بر اساس توضیحات آنتراپیک، وجود واترمارک به این معنی است که محتوای مورد نظر «ممکن است» توسط Claude پردازش شده باشد، اما این موضوع لزوماً تأیید نمی‌کند که Claude نویسنده آن بوده است. این نشانه‌گذاری در تمام محصولات این شرکت از جمله API، اپلیکیشن‌های Claude و پلتفرم‌های ابری مانند AWS، Google Cloud و Microsoft Foundry اعمال می‌شود.

برای متن، یک واترمارک نامرئی درون آن جاسازی می‌شود که به گفته آنتراپیک، کیفیت و خوانایی پاسخ را تغییر نمی‌دهد. این نشانه با کپی و پیست کردن متن باقی می‌ماند و «ممکن است در برابر برخی ویرایش‌ها مقاوم باشد». فایل‌های تصویری تولیدشده در فرمت‌های .svg، .png و .jpg نیز شامل فراداده‌های امضاشده بر اساس استاندارد باز C2PA خواهند بود که تاریخچه ایجاد و دستکاری‌های احتمالی فایل را ثبت می‌کند.

این تغییر برای تولیدکنندگان محتوا و کارشناسان سئو در ایران اهمیت ویژه‌ای دارد. بسیاری از فعالان این حوزه از ابزارهایی مانند Claude برای تولید، ویرایش، خلاصه‌سازی یا ترجمه محتوای فارسی استفاده می‌کنند. با این سیستم جدید، حتی اگر یک متن کاملاً انسانی فقط برای ویرایش و بازخوانی به Claude سپرده شود، خروجی نهایی ممکن است حاوی واترمارک باشد. این موضوع می‌تواند در آینده بر نحوه ارزیابی محتوا توسط موتورهای جستجو مانند گوگل یا پلتفرم‌های دیگر تأثیر بگذارد و سیاست‌های جدیدی را در زمینه پذیرش محتوای تولید یا ویرایش شده با هوش مصنوعی به وجود آورد.

آنتراپیک محدودیت‌های این سیستم را نیز مشخص کرده است. محتوایی که توسط مدل‌های قدیمی‌تر تولید شده، به شدت ویرایش شده یا بسیار کوتاه باشد، ممکن است فاقد واترمارک قابل تشخیص باشد. از سوی دیگر، فرآیندهایی مانند بازخوانی، ترجمه یا خلاصه‌سازی یک متن انسانی توسط Claude می‌تواند منجر به اضافه‌شدن واترمارک شود.

با این حال، کارشناسان معتقدند این واترمارک‌ها ممکن است دائمی نباشند. الکس چوی (Alex Cui)، مدیر ارشد فناوری و هم‌بنیان‌گذار GPTZero، معتقد است که واترمارک‌های متنی قابل شکستن هستند.

واترمارک‌های متنی را می‌توان شکست داد.

— الکس چوی (Alex Cui)

او توضیح می‌دهد که ابزارهای رایگانی قبلاً موفق به دور زدن سیستم SynthID گوگل دیپ‌مایند (Google DeepMind) شده‌اند. یوناس گایپینگ (Jonas Geiping)، پژوهشگر یادگیری ماشین، نیز می‌گوید بازنویسی متن می‌تواند واترمارک را از بین ببرد، اما این کار به ویرایش عمیق و تغییرات قابل توجه در ساختار جملات نیاز دارد، به‌ویژه در متون طولانی.

بازنویسی می‌تواند واترمارک را حذف کند، اما نه هر نوع بازنویسی. برای حذف آن از یک سند طولانی، ویرایش باید عمیق باشد و بخش زیادی از جمله‌بندی اصلی تغییر کند.

— یوناس گایپینگ (Jonas Geiping)

این اقدام آنتراپیک در حالی صورت می‌گیرد که شرکت OpenAI در سپتامبر ۲۰۲۴ برنامه‌های خود برای واترمارک کردن محتوای ChatGPT را پس از یک نظرسنجی که نشان می‌داد حدود ۳۰٪ کاربران در صورت اضافه‌شدن واترمارک، استفاده خود را کاهش می‌دهند، کنار گذاشت.

آنتراپیک اعلام کرده است که در آینده پشتیبانی از واترمارک را به مدل‌های قدیمی‌تر خود نیز اضافه خواهد کرد و مستندات فنی لازم برای تشخیص این نشانه‌ها توسط کاربران و شرکت‌های ثالث را منتشر می‌کند، هرچند هنوز جزئیات آن مشخص نیست.