واترمارک هوش مصنوعی چیست و چگونه به تشخیص محتوای جعلی کمک می‌کند؟
یکی از روش‌هایی که برای شفاف‌سازی منشأ محتوا به کار می‌رود، واترمارک هوش مصنوعی است.
تصویر ساختگی یک رویداد یا صدای تقلیدشده یک چهره مشهور ممکن است در نگاه نخست واقعی به نظر برسد. با گسترش ابزارهای هوش مصنوعی مولد، تشخیص محتوای واقعی از محتوای مصنوعی برای کاربران، رسانه‌ها و پلتفرم‌های دیجیتال دشوارتر شده است.
یکی از روش‌هایی که برای شفاف‌سازی منشأ محتوا به کار می‌رود، واترمارک هوش مصنوعی است. این فناوری می‌تواند نشانه‌ای در محتوا ثبت کند تا ابزارهای سازگار بتوانند آن را شناسایی کنند.
بااین‌حال، واترمارک نه حقیقت‌سنج خودکار است و نه راهی بی‌خطا برای شناسایی همه محتواهای تولیدشده با هوش مصنوعی. واترمارک هوش مصنوعی چیست؟
واترمارک هوش مصنوعی یا AI Watermarking نشانه‌ای دیجیتال است که هنگام تولید محتوا یا پس از آن به فایل اضافه می‌شود تا بررسی منشأ یا فرایند ساخت و ویرایش آن آسان‌تر شود. واترمارک ممکن است به شکل نوشته یا لوگوی قابل مشاهده روی تصویر باشد، اما در فناوری‌های جدیدتر می‌تواند به‌صورت الگویی در خود فایل تصویری، صوتی یا متنی قرار بگیرد و با چشم یا گوش انسان قابل تشخیص نباشد.
چنین الگویی را معمولاً ابزارهای سازگار شناسایی می‌کنند. واترمارک، فراداده و گواهی منشأ محتوا مفاهیم مرتبطی هستند، اما یکسان نیستند: - واترمارک نامرئی الگویی است که در خود محتوای دیجیتال جاسازی می‌شود.
- فراداده اطلاعاتی درباره فایل، مانند زمان ایجاد یا ابزار مورد استفاده، در اختیار می‌گذارد. - گواهی منشأ می‌تواند اطلاعاتی درباره سازنده یا سابقه ثبت‌شده ویرایش فایل ارائه کند.
این روش‌ها ممکن است در کنار هم استفاده شوند، اما هرکدام کارکرد و محدودیت‌های خاص خود را دارند. واترمارک نامرئی چگونه کار می‌کند؟
تصویر، ویدئو و صدا در تصویر و ویدئو، الگوریتم ممکن است تغییرات بسیار ظریفی را در الگوی پیکسل‌ها ایجاد کند. در فایل صوتی نیز نشانه می‌تواند در سیگنال صدا جاسازی شود.
هدف این است که تغییر برای مخاطب معمولاً محسوس نباشد، اما ابزار تشخیص بتواند الگوی موردنظر را پیدا کند. مقاومت واترمارک در برابر فشرده‌سازی، برش، تغییر اندازه یا ویرایش به روش و فناوری مورد استفاده بستگی دارد.
بنابراین، نباید فرض کرد که هر واترمارکی پس از هر نوع تغییر همچنان شناسایی می‌شود. SynthID یکی از نمونه‌های شناخته‌شده این فناوری است که Google DeepMind برای شناسایی برخی محتواهای تولیدشده با ابزارهای پشتیبانی‌شده گوگل توسعه داده است.
کاربردها و دسترسی به قابلیت‌های آن ممکن است با توجه به محصول و نوع محتوا متفاوت باشد. شناسایی یک واترمارک SynthID نیز فقط نشان می‌دهد که نشانه‌ای مرتبط با این فناوری پیدا شده است؛ نه اینکه همه محتواهای تولیدشده با هوش مصنوعی قابل شناسایی باشند.
متن در برخی روش‌های واترمارک‌گذاری متن، مدل هنگام انتخاب واژه یا توکن بعدی، احتمال گزینه‌ها را به‌شکلی کنترل‌شده تغییر می‌دهد. در نتیجه، الگویی آماری در متن شکل می‌گیرد که ممکن است برای خواننده نامحسوس باشد، اما ابزار سازگار بتواند وجود آن را ارزیابی کند.
نتیجه این روش به عواملی مانند طول متن، مدل مورد استفاده و میزان ویرایش یا بازنویسی وابسته است. متن کوتاه یا متنی که به‌طور گسترده تغییر کرده، ممکن است برای تشخیص نتیجه قابل اتکایی نداشته باشد.
C۲PA و Content Credentials چه هستند؟ C۲PA مجموعه‌ای از استانداردهای فنی برای ثبت منشأ و سابقه محتوای دیجیتال است.
Content Credentials نام ابتکاری است که این اطلاعات را در قالبی قابل بررسی در اختیار کاربران و ابزارهای سازگار قرار می‌دهد. برخلاف واترمارک نامرئی که نشانه‌ای را در خود محتوای فایل جاسازی می‌کند، اطلاعات C۲PA می‌تواند سابقه ثبت‌شده تولید یا ویرایش محتوا را همراه فایل نگه دارد.
این اطلاعات با سازوکارهای رمزنگاری محافظت می‌شوند تا تغییر غیرمجاز در آن‌ها قابل تشخیص باشد. بااین‌حال، C۲PA به‌خودی‌خود درباره درست یا نادرست‌بودن ادعای مطرح‌شده در یک تصویر یا ویدئو داوری نمی‌کند.
این استاندارد بیشتر می‌تواند به پرسش‌هایی مانند «این فایل از چه مسیری آمده؟» یا «چه تغییراتی برای آن ثبت شده است؟» پاسخ دهد. وجود اطلاعات منشأ نیز لزوماً به این معنا نیست که همه جزئیات ثبت شده یا هویت درج‌شده به‌طور مستقل تأیید شده است.
از سوی دیگر، نبود گواهی C۲PA ثابت نمی‌کند فایل جعلی است؛ ممکن است ابزار تولید یا ویرایش از این استاندارد پشتیبانی نکند یا اطلاعات فایل هنگام انتقال حذف شده باشد. واترمارک چه کمکی به تشخیص محتوای جعلی می‌کند؟
واترمارک و اطلاعات منشأ می‌توانند سرنخی برای بررسی بیشتر باشند. برای نمونه، اگر تصویر یا صدایی با نشانه قابل شناسایی منتشر شود، کاربر یا رسانه می‌تواند منشأ احتمالی آن را بهتر بررسی کند.
این اطلاعات ممکن است در راستی‌آزمایی محتوایی که به یک فرد، رویداد خبری یا حادثه عمومی نسبت داده شده، مفید باشد. اهمیت دیگر این فناوری، کمک به شفافیت درباره محتوای تولیدشده یا دست‌کاری‌شده با هوش مصنوعی است.
در اتحادیه اروپا، ماده ۵۰ قانون هوش مصنوعی برای برخی انواع محتوای تولیدشده یا دست‌کاری‌شده، تعهدات شفافیت در نظر گرفته است. دامنه این تعهدات به نوع سامانه و محتوا بستگی دارد و شامل شرایط و استثناهای مشخصی می‌شود؛ بنابراین، نباید آن را الزام یکسان همه افراد به استفاده از یک واترمارک خاص دانست.
واترمارک ممکن است در بررسی منشأ آثار رسانه‌ای یا هنری نیز کمک کند، اما به‌تنهایی مالکیت حقوقی اثر یا نقض حق مؤلف را ثابت نمی‌کند. برای چنین نتیجه‌گیری‌هایی، سوابق تولید و انتشار، قراردادها و قوانین مربوط نیز باید بررسی شوند.
محدودیت‌های واترمارک چیست؟ هیچ روش واحدی همه محتوای مصنوعی را شناسایی نمی‌کند.
همه ابزارهای هوش مصنوعی واترمارک اضافه نمی‌کنند و برخی تغییرات، مانند بازفشرده‌سازی یا بازنویسی گسترده، ممکن است نشانه را تضعیف کنند یا از بین ببرند. ابزارهای تشخیص نیز ممکن است نتیجه نامطمئن بدهند.
پشتیبانی‌نکردن پلتفرم‌ها از یک استاندارد مشترک هم می‌تواند دسترسی به اطلاعات منشأ را دشوار کند. فراداده ممکن است هنگام ویرایش، بارگذاری یا انتقال فایل حذف شود.
به همین دلیل، واترمارک و گواهی منشأ را باید لایه‌هایی مکمل برای شفافیت دانست، نه جایگزینی برای بررسی منبع اصلی، زمان انتشار، زمینه محتوا و شواهد مستقل. چطور بررسی کنیم یک فایل واترمارک دارد؟
برای محتوای تولیدشده با ابزارهای پشتیبانی‌شده، می‌توان از قابلیت‌های تشخیص همان سرویس یا ابزارهای سازگار استفاده کرد. برای نمونه، برخی قابلیت‌های مرتبط با SynthID در محصولات گوگل یا ابزارهای بررسی Content Credentials و C۲PA می‌توانند اطلاعاتی درباره نشانه یا منشأ ثبت‌شده فایل نشان دهند.
دسترسی و امکانات این ابزارها ممکن است بر اساس محصول، منطقه یا زمان تغییر کند. نتیجه چنین بررسی‌ای باید در کنار شواهد دیگر سنجیده شود.
پیدا شدن واترمارک لزوماً نشان نمی‌دهد همه بخش‌های محتوا مصنوعی‌اند یا ادعای همراه آن درست یا نادرست است. پیدا نشدن واترمارک هم ثابت نمی‌کند محتوا را انسان ساخته یا فایل اصیل است.
پرسش‌های متداول آیا واترمارک کیفیت تصویر یا صدا را کاهش می‌دهد؟ بسیاری از واترمارک‌های نامرئی با هدف حفظ کیفیت ادراک‌شده طراحی می‌شوند؛ اما نتیجه به فناوری و شیوه پیاده‌سازی بستگی دارد.
نمی‌توان درباره همه روش‌ها حکم یکسانی داد. آیا می‌توان واترمارک را حذف کرد؟
بعضی واترمارک‌ها برای مقاومت در برابر تغییرات معمول طراحی شده‌اند، اما هیچ تضمینی وجود ندارد که در برابر همه انواع ویرایش باقی بمانند. احتمال تضعیف یا حذف نشانه به نوع فایل و فناوری مورد استفاده وابسته است.
آیا همه ابزارهای هوش مصنوعی واترمارک دارند؟ خیر.
شیوه استفاده از واترمارک و استانداردهای ثبت منشأ میان محصولات مختلف یکسان نیست و ممکن است به ابزار، نسخه، نوع محتوا و الزامات مربوط بستگی داشته باشد. آیا واترمارک ثابت می‌کند یک محتوا جعلی است؟
خیر. واترمارک ممکن است نشان دهد فایل با یک ابزار مشخص تولید یا نشانه‌گذاری شده است، اما به‌تنهایی درستی ادعاهای مطرح‌شده در محتوا را مشخص نمی‌کند.
برای ارزیابی، باید منبع و شواهد مستقل نیز بررسی شوند. جمع‌بندی واترمارک هوش مصنوعی یکی از روش‌های افزایش شفافیت درباره منشأ محتوای دیجیتال است.
این فناوری می‌تواند در کنار استانداردهایی مانند C۲PA، اطلاعات مفیدی درباره تولید یا ویرایش فایل ارائه کند؛ اما راهی بی‌نقص برای شناسایی همه محتواهای مصنوعی یا اثبات جعلی‌بودن یک فایل نیست. هنگام مواجهه با تصویر، صدا یا ویدئوی مشکوک، بهتر است به یک نشانه بسنده نکنیم.
بررسی منبع اولیه، اطلاعات منشأ، زمینه انتشار و شواهد مستقل در کنار واترمارک، به تصمیم‌گیری آگاهانه‌تر کمک می‌کند. ۵۷
