شرکت OpenAI اعلام کرده که از این به بعد متن‌های تولید شده توسط ChatGPT در اتحادیه اروپا به صورت پیش‌فرض با یک watermark نامرئی عرضه می‌شوند. این تصمیم جالب قرار است قوانین سخت‌گیرانه جدید اتحادیه اروپا یعنی EU AI Act را دور نزند و کاملاً طبق مقررات پیش برود؛ قانونی که می‌گوید محتوای تولید شده توسط هوش مصنوعی باید طوری علامت‌گذاری شود که سیستم‌های دیگر بتوانند آن را تشخیص دهند.
البته اگر فکر می‌کنید این علامت‌ها کاملاً ضدگلوله هستند، باید بگوییم در اشتباهید! تکنولوژی فعلی هنوز راه زیادی در پیش دارد تا بتواند محتوای هوش مصنوعی را بدون خطا تشخیص دهد. استانداردهایی مثل SynthID و پروژه C2PA وجود دارند، اما هر کسی با کمی مهارت فنی می‌تواند دورشان بزند. داستان واترمارک اختصاصی OpenAI که اسمش را گذاشته‌اند textGrain هم تقریباً همینطور است. این روش با ایجاد الگوهای خاص در انتخاب کلمات کار می‌کند که برای چشم انسان قابل تشخیص نیست و کیفیت متن را هم پایین نمی‌آورد، اما یک Detector مخصوص می‌تواند آن را ردیابی کند.
nn
روش کار textGrain چطور است و چقدر دقت دارد؟
شرکت OpenAI در یک مقاله تخصصی توضیح داده که این سیستم چطور کار می‌کند. تست‌های این شرکت نشان می‌دهد که دقت تشخیص موفق در بهترین حالت به ۹۲ درصد می‌رسد که عدد بدی نیست، اما قضیه آنجا جالب می‌شود که بدانید اگر فقط ۱۰ درصد متن دستکاری یا ویرایش شود، دقت تشخیص حدود ۳۰ درصد افت می‌کند! اگر هم ۲۰ درصد متن تغییر کند، این دقت تا ۷۵ درصد کاهش پیدا می‌کند. در ضمن، متن‌های کوتاه‌تر یا ترجمه شده هم کار ردیاب را سخت‌تر می‌کنند.
چرا فقط در اروپا؟
در حالی که رقیب سرسخت یعنی Anthropic قابلیت واترمارک را برای همه کاربران جهان فعال کرده، اما OpenAI تصمیم گرفته فعلاً این قابلیت را فقط در مناطق و کشورهایی که قوانین اجباری دارند (مثل اتحادیه اروپا) به صورت پیش‌فرض روشن کند و در بقیه نقاط جهان این گزینه به صورت خاموش اما قابل دسترس در اختیار کاربران قرار گیرد. این ویژگی قرار است طی هفته‌های آینده برای اپلیکیشن‌های ChatGPT و Codex در دسترس کاربران اروپایی قرار بگیرد.
