چطور فریب هوش مصنوعی را نخوریم؟ / راهنمای ساده راستی‌آزمایی
راهنمای مرحله‌به‌مرحله راستی‌آزمایی پاسخ هوش مصنوعی مرحله اول: ادعاهای اصلی را جدا کنید؛ از پاسخ، نام‌ها، تاریخ‌ها، آمارها و نتیجه‌گیری‌های مهم را بیرون بکشید.
هوش مصنوعی می‌تواند در چند ثانیه پاسخ‌هایی دقیق و قانع‌کننده ارائه دهد؛ اما گاهی آمار اشتباه، نقل‌قول ساختگی یا منابعی غیرواقعی تولید می‌کند. این خطاها هنگام تهیه گزارش، انتشار خبر یا تصمیم‌گیری پزشکی و مالی اهمیت بیشتری پیدا می‌کنند.
بنابراین خوب است بدانیم هوش مصنوعی چگونه پاسخ می‌سازد و چطور می‌توان درستی اطلاعات آن را بررسی کرد. بسیاری از دستیارهای متنی از مدل‌های زبانی بزرگ استفاده می‌کنند.
این مدل‌ها با بررسی حجم زیادی از متن، الگوهای زبان را می‌آموزند و بر اساس درخواست کاربر، پاسخ تولید می‌کنند. این فرایند با جست‌وجوی مستقیم در یک دانشنامه یا بررسی خودکار صحت همه ادعاها یکسان نیست.
مدل ممکن است پاسخی منسجم درباره یک رویداد تاریخی بنویسد، اما نام فرد، تاریخ رویداد یا ارتباط میان دو اتفاق را اشتباه بیان کند. به همین دلیل، باید میان تولید متن روان و ارائه اطلاعات دقیق و تأییدشده تفاوت گذاشت.
«توهم هوش مصنوعی» یعنی چه؟ «توهم هوش مصنوعی» (AI Hallucination) به حالتی گفته می‌شود که سیستم اطلاعات نادرست یا ساختگی تولید می‌کند و آن را به شکلی ارائه می‌دهد که معتبر به نظر می‌رسد.
این خطا ممکن است شامل آمار اشتباه، نقل‌قول ساختگی یا نام مقاله و منبعی باشد که وجود ندارد. دلایل احتمالی این خطاها عبارت‌اند از: ناقص یا قدیمی بودن اطلاعات در دسترس مدل؛ مبهم بودن پرسش یا کافی نبودن اطلاعات آن؛ پاسخ‌سازی بدون بررسی مستقل ادعاها؛ تغییر اطلاعات در گذر زمان، به‌ویژه درباره قوانین و رویدادهای روز.
پرسیدن دوباره همان سؤال از یک ابزار یا درخواست تأیید صحت پاسخ، به‌تنهایی درستی آن را ثابت نمی‌کند. برای اطمینان باید شواهد و منابع را جداگانه بررسی کرد.
کدام پاسخ‌ها به بررسی بیشتری نیاز دارند؟ هرچه پیامد اشتباه جدی‌تر باشد، بررسی پاسخ هم باید دقیق‌تر باشد.
به‌ویژه این موارد را با دقت بیشتری راستی‌آزمایی کنید: آمارها، درصدها و اعداد دقیق؛ نام افراد، سازمان‌ها، کتاب‌ها و مقاله‌های علمی؛ تاریخ رویدادهای تاریخی و معاصر؛ نقل‌قول‌های منتسب به افراد؛ اطلاعات پزشکی، حقوقی و مالی؛ ادعاهای مربوط به رویدادهای تازه؛ لینک‌ها و منابعی که هوش مصنوعی معرفی می‌کند. در حوزه خبر، انتشار یک ادعای نادرست ممکن است به اعتبار رسانه آسیب بزند و اطلاعات غلط را میان مخاطبان گسترش دهد.
چهار معیار برای ارزیابی اعتبار پاسخ ۱. اعتبار منبع؛ بررسی کنید منبع معرفی‌شده واقعاً وجود داشته باشد و محتوای آن ادعای موردنظر را تأیید کند.
صرفِ آوردن نام یک سازمان یا نشانی اینترنتی، دلیل معتبر بودن پاسخ نیست. ۲.
سازگاری منطقی؛ پاسخ را از نظر تناقض‌های درونی و ناسازگاری با اطلاعات دیگر بررسی کنید. البته منسجم بودن پاسخ به‌تنهایی درستی آن را ثابت نمی‌کند.
۳. امکان بررسی مستقل؛ ادعاهای مهم باید با شواهد قابل پیگیری باشند؛ مانند مقاله پژوهشی، سند اولیه، گزارش رسمی یا اطلاعیه نهاد مسئول.
۴. تازگی اطلاعات؛ اطلاعات مربوط به قوانین، آمار و رویدادهای جاری ممکن است تغییر کنند.
تاریخ انتشار و به‌روزرسانی منبع را بررسی کنید و مطمئن شوید اطلاعات با زمان موردنظر شما همخوانی دارد. راهنمای مرحله‌به‌مرحله راستی‌آزمایی پاسخ هوش مصنوعی مرحله اول: ادعاهای اصلی را جدا کنید؛ از پاسخ، نام‌ها، تاریخ‌ها، آمارها و نتیجه‌گیری‌های مهم را بیرون بکشید.
بررسی ادعاهای مشخص ساده‌تر از ارزیابی یک متن طولانی به‌صورت کلی است. مرحله دوم: سراغ منابع اولیه بروید، اگر پاسخ به گزارش رسمی اشاره می‌کند، نسخه اصلی گزارش را پیدا کنید.
برای بررسی یک پژوهش علمی نیز به مقاله منتشرشده یا وب‌سایت ناشر مراجعه کنید، نه فقط خلاصه یا بازنشر آن. مرحله سوم: اطلاعات را با منابع مستقل مقایسه کنید؛ یکسان بودن چند وب‌سایت لزوماً تأیید مستقل محسوب نمی‌شود؛ ممکن است همه آن‌ها خبر را از یک منبع مشترک بازنشر کرده باشند.
تا حد امکان، منابعی را پیدا کنید که اطلاعات را جداگانه بررسی یا منتشر کرده‌اند. مرحله چهارم: از هوش مصنوعی توضیح یا منبع بخواهید، اما بررسی را متوقف نکنید؛ می‌توانید از ابزار بخواهید مبنای پاسخ یا منابع احتمالی را توضیح دهد.
سپس وجود و محتوای هر منبع را خودتان بررسی کنید؛ ابزار ممکن است منبع را نادرست معرفی کند یا ارجاعی بسازد که واقعی نیست. مرحله پنجم: در نبود شواهد، ادعا را قطعی بیان نکنید؛ اگر منبع معتبر پیدا نمی‌شود یا شواهد کافی نیست، ادعا را حذف کنید، بررسی را ادامه دهید یا عدم قطعیت را روشن بیان کنید.
نبود مدرک برای تأیید یک ادعا را نباید با قطعیت یا لحن مطمئن جبران کرد. آیا می‌توان به هوش مصنوعی اعتماد کرد؟
میزان اعتماد به نوع کاربرد، کیفیت ابزار و حساسیت موضوع بستگی دارد. برای ایده‌پردازی، تهیه پیش‌نویس یا اصلاح نگارشی، هوش مصنوعی می‌تواند دستیار مفیدی باشد.
اما در تشخیص پزشکی، تفسیر قوانین، تحلیل سرمایه‌گذاری یا انتشار خبر، بررسی انسانی و رجوع به منابع معتبر اهمیت بیشتری دارد. قاعده ساده این است: هرچه پیامد یک اشتباه جدی‌تر باشد، راستی‌آزمایی باید دقیق‌تر باشد.
تفاوت اعتماد به هوش مصنوعی و راستی‌آزمایی پاسخ اعتماد، میزان اتکایی است که به پاسخ‌های یک ابزار داریم. این اعتماد ممکن است با تجربه استفاده، کیفیت پاسخ‌ها و نوع کاربرد شکل بگیرد.
برای نمونه، ممکن است به توانایی ابزاری در خلاصه‌کردن یک متن اعتماد کنیم، اما پاسخ آن درباره قانونی تازه را بدون بررسی نپذیریم. راستی‌آزمایی، فرایند بررسی درستی یک پاسخ یا ادعای مشخص با استفاده از شواهد و منابع معتبر است.
اگر هوش مصنوعی آماری درباره نرخ بیکاری ارائه کند، باید آن را با گزارش رسمی نهاد منتشرکننده مقایسه کرد و عدد، تاریخ و برداشت ارائه‌شده را سنجید. پس اعتماد یک نگرش است، اما راستی‌آزمایی اقدامی عملی برای ارزیابی صحت اطلاعات محسوب می‌شود.
می‌توان به یک ابزار اعتماد نسبی داشت و در عین حال پاسخ‌های مهم آن را بررسی کرد. همچنین ممکن است پاسخی پس از راستی‌آزمایی درست از آب دربیاید، حتی اگر در ابتدا به ابزار تولیدکننده آن اعتماد نداشته باشیم.
هوش مصنوعی دسترسی به پاسخ‌ها و اطلاعات را آسان‌تر کرده، اما لحن مطمئن و متن روان جای شواهد معتبر را نمی‌گیرند. برای بررسی پاسخ‌ها، ادعاهای اصلی را جدا کنید، منابع اولیه را بیابید، اطلاعات را با شواهد مستقل مقایسه کنید و به زمان انتشار منابع توجه داشته باشید.
هدف این نیست که همه پاسخ‌های هوش مصنوعی را بی‌درنگ رد کنیم یا بدون تردید بپذیریم؛ مهم این است که میزان اعتماد را با شواهد و اهمیت موضوع تنظیم کنیم. استفاده مسئولانه از هوش مصنوعی یعنی بهره‌گرفتن از سرعت آن، بدون واگذارکردن داوری نهایی به آن.
