OpenAI واترمارک نامرئی textGrain برای خروجی ChatGPT و کدکس در اتحادیه اروپا فعال می شود و امکان استفاده اختیاری از آن را فراهم می کند API می دهد.
به گزارش سرویس هوش مصنوعی مجردیک واترمارک نامرئی و قابل خواندن توسط ماشین به خروجی های متنی ChatGPT و Codex اضافه خواهد شد، اما این ویژگی در ابتدا فقط برای کاربران اتحادیه اروپا در دسترس خواهد بود.
OpenAI می‌گوید که فناوری واترمارک متن textGrain “همتراز یا بهتر از” روش‌های دیگر برای واترمارک کردن متن، مانند SynthID Google DeepMind، عمل می‌کند.
فناوری SynthID همچنین مبنای راه حلی برای واترمارکینگ متن است که Anthropic در ماه آگوست معرفی کرد.
Anthropic، مانند OpenAI، این قابلیت را برای برآورده کردن الزامات قانون هوش مصنوعی اتحادیه اروپا توسعه داده است. با این حال اضافه شدن چنین قابلیتی مورد استقبال همه کاربران قرار نگرفته است.
OpenAI همچنین نتایج برخی از تست های بنچمارک هوش مصنوعی را منتشر کرده است که نشان می دهد عملکرد متون واترمارک شده و متون بدون واترمارک مشابه است.
با این حال، این شرکت تاکید می کند که textGrain “تشخیص قابل اعتماد را تضمین نمی کند.” OpenAI همچنین می‌گوید که واترمارک‌های متنی نمی‌توانند صحت محتوا را تأیید کنند، صاحب متن را شناسایی کنند، مشارکت انسان در تولید متن را اندازه‌گیری کنند یا ثابت کنند که یک متن توسط یک انسان نوشته شده است.
راه اندازی واترمارک متنی در اتحادیه اروپا
OpenAI اعلام کرده است که در هفته‌های آتی، واترمارک متن را برای کاربران واجد شرایط ChatGPT و Codex در تمام برنامه‌های اشتراک در اتحادیه اروپا فعال می‌کند.
این شرکت در زمان راه اندازی، واترمارک متن را به عنوان یک ویژگی پیش فرض جهانی فعال نمی کند.
OpenAI می گوید این رویکرد منطقه ای به شرکت زمان می دهد تا استفاده واقعی از فناوری و بازخورد کاربران را بررسی کند.
بیشتر بخوانید: تبلیغات ویدیویی رایگان به ChatGPT راه یافته است
امکان فعال کردن واترمارک برای مشتریان API
از امروز، مشتریان API در سراسر جهان می توانند به صورت اختیاری دریافت خروجی متن واترمارک شده را برای مدل های منتخب فعال کنند.
این ویژگی به مشتریان این امکان را می دهد که در راستای تعهد خود به شفافیت و تجربه ای که به کاربران خود ارائه می دهند، تصمیم بگیرند که چگونه از واترمارک استفاده کنند.
OpenAI همچنین اعلام کرده است که با شرکای ابری خود برای فعال کردن واترمارکینگ خروجی مدل‌های OpenAI در هفته‌های آینده برای کاربرانی که از این مدل‌ها از طریق سرویس‌های ابری استفاده می‌کنند، کار می‌کند.
بیشتر بخوانید: کارمند سابق OpenAI؛ هوش مصنوعی باید مانند یک نیروگاه هسته ای کنترل شود
دسترسی محققان به ابزارهای تشخیصی
محققان و سازمان‌های تخصصی تایید شده نیز می‌توانند از امروز برای دسترسی به ابزار تشخیص واترمارک درخواست دهند.
OpenAI بیان کرده است که مطابق با آیین نامه عمل خود، دسترسی به این ابزار ابتدا به صورت موردی اعطا می شود تا از آن برای ارزیابی و بهبود توانایی آن در تشخیص مبدا متن استفاده شود.
این ابزار فقط اعلام می‌کند که آیا واترمارک OpenAI را در متن شناسایی کرده است یا خیر و اطلاعاتی در مورد هویت، درخواست‌ها یا مکالمات کاربر ارائه نمی‌دهد.
OpenAI همچنین به احتمال از دست دادن برخی از واترمارک ها و ایجاد نتایج مثبت کاذب اشاره کرد. به همین دلیل، این ابزار در زمان راه اندازی در دسترس عموم قرار نخواهد گرفت.
گفتگو در مورد این post