یادداشت | وقتی چشم‌ها هم دیگر سند نیستند؛ بحران اعتماد در عصر دیپ‌فیک
اعتماد را نمی‌توان با یک نرم‌افزار بازسازی کرد ممکن است گفته شود با پیشرفت ابزارهای تشخیص، مشکل دیپ‌فیک نیز به‌تدریج حل خواهد شد.
حسین رفیعی، پژوهشگر و مدرّس هوش مصنوعی | فرض کنید ویدئویی از یک مقام مسئول منتشر می‌شود که در آن تصمیمی جنجالی اعلام می‌کند. صدا طبیعی است، چهره آشناست و حرکات لب با کلمات هماهنگی دارد.
ویدئو در چند دقیقه میان کاربران دست‌به‌دست می‌شود، واکنش‌های گسترده‌ای برمی‌انگیزد و حتی رسانه‌ها را به انتشار خبر وادار می‌کند. ساعتی بعد، تکذیبیه‌ای منتشر می‌شود: «این ویدئو جعلی است.» اما این بار هم مخاطب با یک پرسش روبه‌روست؛ از کجا معلوم تکذیب واقعی باشد؟
در عصر هوش مصنوعی مولد، چالش فقط ساختن تصویر و صدایی دروغین نیست، بلکه دشوارشدن تشخیص حقیقت و جعل و، مهم‌تر از آن، تضعیف امکان رسیدن به توافقی مشترک درباره واقعیت است. آنچه زمانی یکی از محکم‌ترین شواهد یک رویداد محسوب می‌شد، یعنی عکس، فیلم و صدای ضبط‌شده، دیگر به‌تنهایی برای اثبات آنچه رخ داده است کفایت نمی‌کند.
بحران اصلی، فراتر از خبر جعلی است سال‌هاست که رسانه‌ها با شایعه، اطلاعات نادرست و عملیات فریب مواجه‌اند. دیپ‌فیک این مسئله را از دو جهت تغییر داده است: تولید محتوای متقاعدکننده را آسان‌تر می‌کند و هم‌زمان، به افراد اجازه می‌دهد محتوای واقعی و معتبر را نیز با ادعای ساختگی‌بودن زیر سؤال ببرند.
در حالت نخست، مخاطب ممکن است یک ویدئوی جعلی را واقعی بداند. در حالت دوم، حتی اگر یک فایل اصیل باشد، فردی که محتوای آن به زیانش تمام می‌شود می‌تواند ادعا کند تصویر یا صدا با هوش مصنوعی ساخته شده است.
در ادبیات پژوهشی، این وضعیت Liar’s Dividend «سود دروغ‌گو» نام گرفته است؛ امکانی که در آن وجود فناوری جعل، به ابزاری برای انکار شواهد واقعی تبدیل می‌شود. پژوهش‌های مرتبط با این مفهوم، پیامدهای آن را برای اعتماد عمومی و پاسخ‌گو نگه‌داشتن صاحبان قدرت بررسی کرده‌اند.
این همان تناقض خطرناک است: فناوری‌ای که می‌تواند دروغ را شبیه حقیقت کند، هم‌زمان امکان انکار حقیقت را نیز افزایش می‌دهد. در چنین شرایطی، جامعه ممکن است نه‌فقط به تصاویر جعلی، بلکه به اصل تصویر به‌عنوان یک سند بی‌اعتماد شود.
این وضعیت برای روزنامه‌نگاری اهمیت ویژه‌ای دارد. خبرنگار نمی‌تواند صرفاً به این دلیل که یک ویدئو را دیده یا صدای فردی را شنیده است، ادعای مندرج در آن را تأیید کند.
در مقابل، نمی‌تواند هر سندی را هم به دلیل احتمال جعل کنار بگذارد. حرفه روزنامه‌نگاری باید راهی میان این دو خطا پیدا کند: باورکردن شتاب‌زده و انکار بی‌دلیل.
چرا ابزارهای تشخیص، پاسخ نهایی نیستند؟ نخستین واکنش به گسترش دیپ‌فیک معمولاً جست‌وجوی ابزارهای تشخیص محتوای مصنوعی است.
این ابزارها می‌توانند به بررسی نشانه‌های دست‌کاری در تصویر، ویدئو و صدا کمک کنند؛ اما مشکل آنجاست که نتیجه یک سامانه تشخیص، به‌تنهایی حکم نهایی درباره اصالت یک سند نیست. گزارش یک مؤسسه فناوری در سال 2024، راهکارهای مقابله با محتوای مصنوعی را در چند حوزه بررسی می‌کند؛ از رهگیری منشأ محتوا و برچسب‌گذاری گرفته تا شناسایی محتوای تولیدشده با هوش مصنوعی و ارزیابی ابزارهای تشخیص.
همین تنوع نشان می‌دهد که مسئله را نمی‌توان صرفاً به نصب یک نرم‌افزار تشخیص جعل تقلیل داد. پژوهشی نیز در اکتبر 2025، عملکرد ابزارهای تشخیص دیپ‌فیک را در مواجهه با نمونه‌های واقعی جعل سیاسی بررسی کرد.
نویسندگان گزارش کردند که بسیاری از سامانه‌های بررسی‌شده در تعمیم توانایی خود به نمونه‌های واقعی با مشکل روبه‌رو هستند و دست‌کاری‌های ساده نیز می‌تواند عملکرد آن‌ها را، به‌ویژه در حوزه ویدئو، تحت تأثیر قرار دهد. بنابراین، دو نتیجه‌گیری شتاب‌زده باید کنار گذاشته شود: نخست اینکه «چشم انسان همیشه جعل را تشخیص می‌دهد» و دوم اینکه «اگر نرم‌افزار گفت محتوا واقعی است، پس حتماً واقعی است».
نشانه‌های ظاهری، از حرکت غیرطبیعی لب‌ها گرفته تا ناهماهنگی نور و سایه، ممکن است سرنخ‌هایی مفید باشند، اما نبود این نشانه‌ها اصالت محتوا را ثابت نمی‌کند. به همین ترتیب، نتیجه یک ابزار خودکار باید در کنار سایر شواهد تفسیر شود، نه به‌جای آن‌ها.
بازگشت به اصول روزنامه‌نگاری، با ابزارهای تازه در برابر این وضعیت، پاسخ حرفه‌ای رسانه‌ها نه کنارگذاشتن تصویر و صداست و نه تسلیم‌شدن به ابزارهای فناورانه؛ بلکه بازگشت به اصول راستی‌آزمایی با روش‌هایی متناسب با شرایط جدید است. نخستین اصل، بررسی منشأ محتواست.
خبرنگار باید بداند فایل نخستین بار کجا و توسط چه کسی منتشر شده، آیا نسخه اصلی آن در دسترس است، چه مسیری را تا رسیدن به رسانه طی کرده و آیا منبع اولیه قابل شناسایی است. یافتن قدیمی‌ترین نسخه منتشرشده، جست‌وجوی معکوس تصویر، بررسی اطلاعات فنی فایل و مقایسه نسخه‌های مختلف می‌تواند به این فرایند کمک کند.
البته هیچ‌کدام از این اقدامات به‌تنهایی نتیجه قطعی تضمین نمی‌کند. اصل دوم، تأیید مستقل محتوای خبر است.
اگر ویدئویی ادعای وقوع یک حادثه در مکانی مشخص را مطرح می‌کند، باید جزئیات قابل بررسی آن با اطلاعات مستقل تطبیق داده شود. گفت‌وگو با شاهدان، تماس با منابع مرتبط، بررسی زمان و مکان ادعاشده و یافتن شواهدی خارج از همان فایل، ارزش بیشتری از تکرار یک ویدئوی پرانتشار دارد.
تعداد بازدیدها، بازنشرها و حتی واکنش کاربران، جایگزین شواهد مستقل نیست. اصل سوم، تفکیک اعتبار منبع از صحت ادعاست.
ممکن است یک حساب کاربری شناخته‌شده، ویدئویی واقعی را با توضیحی نادرست منتشر کند؛ یا منبعی ناشناس، محتوایی اصیل در اختیار رسانه بگذارد. بنابراین، هویت منتشرکننده و اصالت فایل دو پرسش جداگانه‌اند و هیچ‌کدام به‌تنهایی صحت تمام ادعاهای مطرح‌شده درباره محتوا را ثابت نمی‌کند.
در این چارچوب، رسانه‌ها باید یک تغییر سازمانی را جدی بگیرند: راستی‌آزمایی نباید کاری حاشیه‌ای و وابسته به فرصت و سلیقه خبرنگار باشد. برای محتوای حساس، به‌ویژه در حوزه سیاست، امنیت عمومی، بحران‌ها و اعتبار اشخاص، باید دستورالعمل مشخصی وجود داشته باشد که مراحل بررسی، مسئول تأیید و شرایط انتشار را تعیین کند.
سرعت انتشار مهم است، اما انتشار سریع محتوای تأییدنشده می‌تواند هزینه‌ای بسیار بیشتر از چند دقیقه تأخیر داشته باشد. مسئولیت نهادهای رسمی و پلتفرم‌ها بار مقابله با دیپ‌فیک نباید فقط بر دوش خبرنگار یا مخاطب عادی قرار گیرد.
نهادهای رسمی نیز باید متناسب با شرایط جدید، شیوه ارتباط خود با جامعه را بازطراحی کنند. وقتی یک ویدئوی منتسب به سازمانی منتشر می‌شود، تکذیب مبهم یا دیرهنگام ممکن است نتواند خلأ اطلاعاتی ایجادشده را پر کند.
نهادها باید کانال‌های رسمی و قابل شناسایی برای انتشار اطلاعیه‌ها و نسخه‌های اصلی تصاویر و ویدئوها داشته باشند و فرایندی روشن برای پاسخ‌گویی سریع به ادعاهای حساس ایجاد کنند. ثبت منشأ محتوا در صورت امکان، حفظ نسخه اصلی و انتشار شواهد قابل بررسی نیز می‌تواند به روشن‌شدن واقعیت کمک کند.
پلتفرم‌های دیجیتال نیز باید در قبال نحوه انتشار محتوای دست‌کاری‌شده و گمراه‌کننده مسئولیت‌پذیر باشند. برچسب‌گذاری محتوای مصنوعی، فراهم‌کردن امکان بررسی منشأ فایل، حفظ اطلاعات ضروری برای راستی‌آزمایی و رسیدگی شفاف به گزارش‌های جعل، از جمله اقداماتی است که می‌تواند به کاهش آسیب کمک کند.
البته سیاست‌های مقابله با جعل نباید به ابزاری برای حذف خودسرانه اسناد واقعی یا محدودکردن نقد و روزنامه‌نگاری تبدیل شوند. معیارها باید روشن، قابل ارزیابی و همراه با امکان اعتراض باشند.
این مسئله در نهایت به آموزش عمومی نیز گره می‌خورد. یونسکو در مقاله تحلیلی اکتبر 2025 خود درباره دیپ‌فیک، بر ضرورت عبور از آموزش صرفاً فنی برای شناسایی جعل و توجه به توانایی افراد برای ارزیابی نقادانه اطلاعات تأکید کرده است.
مخاطب باید بیاموزد پیش از بازنشر یک فایل جنجالی، منشأ آن را بررسی کند، ادعای همراه تصویر را از خود تصویر جدا نگه دارد و در صورت نبود شواهد کافی، از قضاوت قطعی بپرهیزد. اعتماد را نمی‌توان با یک نرم‌افزار بازسازی کرد ممکن است گفته شود با پیشرفت ابزارهای تشخیص، مشکل دیپ‌فیک نیز به‌تدریج حل خواهد شد.
توسعه این ابزارها ضروری است، اما چنین انتظاری به‌تنهایی کافی نیست. حتی اگر فناوری بتواند بخشی از جعل‌ها را با دقت بیشتری شناسایی کند، همچنان این پرسش باقی می‌ماند که چه کسی نتیجه را ارزیابی می‌کند، شواهد چگونه ثبت می‌شوند و در صورت اختلاف، چه سازوکاری برای بررسی مستقل وجود دارد.
در سوی دیگر، نباید اجازه داد احتمال جعل به مجوزی برای بی‌اعتبارکردن هر سند نامطلوب تبدیل شود. اگر هر فرد یا نهادی بتواند بدون ارائه مدرک، یک فایل را جعلی بنامد و همین ادعا برای کنارگذاشتن آن کافی باشد، فناوری جعل حتی بدون تولید یک ویدئوی تازه نیز به هدف خود نزدیک شده است.
راه مقابله با این وضعیت، مطالبه شواهد از هر دو طرف است: نه انتشاردهنده باید از توضیح منشأ و اصالت محتوای حساس معاف باشد و نه تکذیب‌کننده بتواند صرفاً با گفتن عبارت «ساخته هوش مصنوعی است» از پاسخ‌گویی بگریزد. در عصر دیپ‌فیک، رسانه حرفه‌ای باید به مخاطب نشان دهد که چرا یک محتوا را معتبر می‌داند، چه شواهدی آن را تأیید می‌کنند و چه ابهام‌هایی همچنان باقی است.
این رویکرد ممکن است گاهی از سرعت انتشار بکاهد، اما به اعتبار بلندمدت رسانه کمک می‌کند. آنچه در معرض خطر است فقط اعتبار یک تصویر یا ویدئو نیست؛ توانایی جامعه برای تشخیص واقعیت، مطالبه پاسخ‌گویی و رسیدن به درکی مشترک از رویدادهاست.
چشم‌ها همچنان اطلاعات مهمی در اختیار ما می‌گذارند، اما دیگر نباید تنها مرجع داوری باشند.