۶۰ کلمه‌ای که هوش مصنوعی اجازه ی نوشتنش را ندارد؛ یا معماری اعتماد در عصر هوش مصنوعی
این همان چیزی است که می‌توان «معماری اعتماد» در عصر هوش مصنوعی نامید.
چرا موزه علوم لندن با وجود استفاده از هوش مصنوعی، نوشتن برچسب‌های معرفی اشیا را به آن نمی‌سپارد؟ پاسخ در تفاوت میان تولید متن و قضاوت تاریخی نهفته است.
تجربه موزه‌های جهان نشان می‌دهد مسئله فقط دقت هوش مصنوعی نیست؛ مسئله این است که چه کسی مسئول درستی اطلاعات است، منابع آن کجاست و اگر خطایی رخ دهد، چگونه می‌توان آن را اصلاح کرد. این همان چیزی است که می‌توان «معماری اعتماد» در عصر هوش مصنوعی نامید.
ستاره بنیادی دکترای ارتباطات علم و فناوری در یادداشتی نوشت: کنار هر شی در یک موزه معمولا یک برچسب کوچک هست. در موزه‌ی علوم لندن، متنِ کنار اشیا حدود ۶۰ کلمه است، یعنی کمتر از یک بند کوتاه.
تصور کنید باید در همین فضا توضیح بدهید یک دستگاه صد ساله چه بود، چه مشکلی را حل می‌کرد، چرا مهم است و چرا باید برای کسی که فقط چند ثانیه جلویش ایستاده جالب باشد. و همین‌جا یک ممنوعیت وجود دارد: در این موزه، ابزارهای هوش مصنوعی مولد، یعنی همان چت‌بات‌هایی که امروز در چند ثانیه متن تولید می‌کنند، اجازه ندارند برچسب‌های عمومی موزه، یعنی همین ۶۰ کلمه را بنویسند.
این ممنوعیت عجیب به نظر می‌رسد. گروه موزه‌های علوم بریتانیا خودش از هوش مصنوعی استفاده می‌کند و حتی مدل اختصاصی خودش را ساخته است.
پس مشکل کجاست؟ دکتر گلین مورگان (Glyn Morgan)، مدیر مجموعه‌ها و کیوریتور ارشد موزه‌ی علوم لندن، می‌گوید سخت‌ترین بخش این کار نوشتن نیست، حذف کردن است.
از میان ده‌ها واقعیتِ مربوط به یک شی، کدام را بگذاریم و کدام را کنار بگذاریم؟ این تصمیم به «قضاوت»، «همدلی با مخاطب» و «فهم تاریخی» نیاز دارد.
به عبارت دیگر، موزه ی علوم لندن، نه تنها اجازه انتخاب کردن اطلاعات، بلکه اجازه حذف کردن اطلاعات را هم از هوش مصنوعی گرفته است. برای جواب دادن، اول باید ببینیم پشت درهای بسته یک موزه بزرگ چه می‌گذرد.
باید از تالارهای نمایش بیرون بیاییم و ببینیم پشت درهای بسته یک موزه بزرگ چه می‌گذرد. موزه‌ای که بیشترِ گنجینه‌اش دیده نمی‌شود آنچه ما در تالارهای موزه می‌بینیم، معمولا بخش کوچکی از مجموعه‌ی موزه است.
برای مثال در گروه موزه‌های علوم بریتانیا که شش زیر مجموعه در بریتانیا دارد و سالانه حدود پنج میلیون بازدیدکننده می‌پذیرد، بیش از هفت میلیون شی نگهداری می‌شود، از نمونه‌های پزشکی ظریف تا لوکوموتیوهای تاریخی. بیشتر این اشیا در انبارها هستند و بسیاری از آن‌ها هنوز درست فهرست یا توصیف نشده‌اند.
یکی از این گنجینه‌ها، آرشیو عکس‌های روزنامه «دیلی هرالد» (Daily Herald) است: بیش از سه میلیون عکس چاپی از سال‌های ۱۹۱۱ تا ۱۹۶۸ که در دهه ۱۹۸۰ به موزه رسید. وقتی آرشیو وارد موزه شد، امکانات آن زمان محدود بود و فقط اجازه می‌داد از بخش کوچکی از عکس‌ها، تصویربرداری شود.
اما ماجرای اصلی پشت عکس‌هاست. یک عکس سیاه‌وسفید قدیمی را در دست بگیرید، مثلا صحنه یک بازی فوتبال در دهه ۱۹۳۰ که دروازه‌بانی از دروازه بیرون آمده و توپ را از مهاجم تیم مقابل می‌گیرد.
حالا آن را برگردانید. پشتش پر از نوشته است: شماره بایگانی که با ماشین‌تحریر زده شده، نام عکاس، گاهی شرحی کوتاه درباره آنچه در عکس اتفاق افتاده، مهر روزنامه و گوشه کاغذ، عددی که کسی روزی با مداد نوشته است.
جوهر بعضی از این‌ها محو شده‌اند، بعضی روی هم افتاده‌اند و بعضی دست‌خط‌های متفاوت دارند. هر عکس در واقع دو لایه دارد: تصویر روی روی عکس و گاهی یک سند تاریخی کوچک پشت آن که تا وقتی کسی این پشت را نخوانده باشد، نمی‌داند عکس را چه کسی، کجا و چه زمانی گرفته است.
خواندن این همه نوشته ریز و قدیمی برای میلیون‌ها عکس از توان هر تیم انسانی بیرون است. اینجا هوش مصنوعی وارد می‌شود: مدل‌های هوش مصنوعی که هم تصویر را می‌بینند و هم متن را می‌خوانند و می‌توانند نوشته‌های پشت عکس را به اطلاعات مرتب تبدیل کنند.
چنین مدل‌هایی روی ده‌ها هزار عکسی که از هر دو طرف اسکن شده‌اند آزمایش شد‌اند و آموخته‌اند. در مورد آرشیو روزنامه دیلی هرالد نتیجه چشمگیر بوده است.
برای مثال پیش از استفاده از هوش مصنوعی، از عکاسی به نام جورج وودباین تنها حدود دویست عکس در نمونه اسکن‌شده ثبت شده بود. پس از اینکه ماشین نوشته‌های پشت عکس‌ها را خواند، تعداد عکس‌هایی که با اطمینان به او منسوب می‌شد به بیش از ۲۳۰۰ رسید.
یعنی تقریبا ده برابر. اطلاعات همیشه همان‌جا بود، فقط کسی فرصت خواندنش را نداشت.
وقتی ماشین اشتباه می‌کند، چه کسی می‌فهمد؟ اما این ماجرا بدون خطا نیست.
بخشی از آرشیو روزنامه دیلی هرالد به پوسترهای قدیمی راه‌آهن بریتانیا مربوط می‌شد. این پوسترها مردم را به سفر با قطار تشویق می‌کردند.
محققان از هوش مصنوعی خواستند روی نقشه نشان بدهد کدام پوسترها «ساحل» را تبلیغ می‌کنند. نقشه‌ای از بریتانیا را تصور کنید که روی هر پوستر «ساحل» با یک نقطه علامت خورده است.
انتظار دارید نقطه‌ها در امتداد خط ساحلی ردیف شده باشند. اما نتیجه چیز دیگری بود: خوشه‌های پرتراکمی از نقطه‌ها در شهرهای صنعتی دور از ساحل، و چند نقطه هم وسط آب‌های دریای شمال، جایی که مناسب نیست که پوستری آنجا نصب شود.
چرا؟ چون ماشین جایی که پوستر نصب شده بود را با جایی که پوستر از آن حرف می‌زد قاطی کرده بود.
در واقع وقتی متصدیان موزه داده‌ها را بازبینی کردند و «مبدا تبلیغ» را از «مقصد سفر» جدا کردند، نقشه درست ساخته شد. این مثال کوچک نکته بزرگی دارد: هوش مصنوعی الگوها را سریع پیدا می‌کند، اما لزوما معنای تاریخی آن‌ها را نمی‌فهمد.
و اگر کسی بازبینی نکند، یک خطای ظریف می‌تواند ساده و باورپذیر به نظر برسد. چرا مدل‌های اختصاصی؟
مشکل فقط این نیست که ماشین گاهی اشتباه می‌کند، بلکه این است که ماشین از کجا آموخته است. چت‌بات‌های تجاری با حجم عظیمی از متن‌های اینترنت آموزش دیده‌اند، و اینترنت پر از خطا، برچسب غلط و تعصب است.
اگر چنین مدلی در فهرست‌نویسی یک موزه دخالت کند، ممکن است یک ادعای نادرست وارد رکورد رسمی یک مجموعه شود و سال‌ها بماند. مورگان به این خطر «آلودگی داده» می‌گوید، مثل وقتی که آب پاک را با آب آلوده مخلوط کنید.
برای همین، گروه موزه‌های علوم بریتانیا مدلی داخلی به نام «دالیا» (Dalia) ساخته است. این مدل از یک نرم‌افزار متن‌باز شروع شده، ولی فقط با اطلاعات تاییدشده خود موزه آموزش دیده است: فهرست‌های رسمی، آرشیو عکس‌ها و سوابق متصدیان.
هیچ متنی از وب عمومی وارد آن نمی‌شود. دالیا به موزه کمک می‌کند عکس‌های تکراری را پیدا کند، متن‌های دست‌نویس را با جست‌وجوی ساده ربط بدهد و مجموعه‌ها را بر اساس موضوع دسته‌بندی کند، مثلا همه عکس‌های مربوط به کشتی‌سازی یا ماشین‌آلات کشاورزی.
دلیل دوم عمیق‌تر است. این مجموعه موزهها در دوران ویکتوریایی و در اوج امپراتوری بریتانیا شکل گرفته و مجموعه‌اش حامل نگاه‌ها و پیش‌فرض‌های امپریالیستی همان دوران است.
متصدیان امروز بخشی از کارشان را صرف بازنگری این روایت‌ها می‌کنند. ابزاری که از اینترنت آموخته، ممکن است همین پیش‌فرض‌های قدیمی را با لحنی مطمئن بازتولید کند.
و چون متن ماشین روان و بی‌تردید است، خواننده راحت‌تر باورش می‌کند. به زبان ساده تر ماشین می‌تواند «باورپذیر» بنویسد، اما باورپذیر بودن با درست بودن یکی نیست.
دیگر موزه‌های جهان چه می‌کنند؟ علاوه بر گروه موزه‌های علوم بریتانیا، در موزه تاریخ طبیعی لندن (Natural History Museum)، بینایی ماشین برای دیجیتال کردن کشوهای پر از نمونه‌های حشرات به کار رفته است.
هدف این است که پژوهشگران بتوانند در طول دهه‌ها تغییر اندازه حشرات را دنبال کنند و این داده‌های قدیمی را به پژوهش‌های تغییر اقلیم وصل کنند. در موزه جانورشناسی دانشگاه کمبریج (University Museum of Zoology, Cambridge)، بازدیدکننده می‌تواند با یک «نهنگ سخنگو» گفت‌وگو کند.
اما این گفت‌وگو فقط از مجموعه‌ای بسته و گزینش‌شده از اطلاعات تاییدشده بیرون می‌آید تا حرف تازه و بررسی نشده به بازدیدکننده نرسد. موزه لوور (Louvre) در پاریس با همکاری یک شرکت خصوصی «راهنمای گفت‌وگومحور برای نوجوانان» ساخته است.
موزه ملی علوم نوظهور و نوآوری ژاپن (Miraikan) دستیارهای گفت‌وگو را مستقیما در نمایشگاه دائمی گذاشته تا مفاهیم علمی پیچیده را برای بازدیدکننده توضیح بدهند. موزه آلمانی دویچس‌موزیوم (Deutsches Museum) در مونیخ سندی با عنوان «ماموریت هوش مصنوعی» (Mission AI) منتشر کرده که قاعده‌های آزمایش‌های دیجیتالش را شفاف می‌کند و می‌پذیرد که کار هنوز در حال شکل‌گیری است.
بنابر این در طیفی از رویکردها که از داده‌های کاملا بسته و کنترل‌شده تا ابزارهای تجاری باز گستره است، یک چیز مشترک وجود دارد: در هر مورد، پرسشی در پس‌زمینه هست که چه کسی مسئول درستیِ حرفی است که بازدیدکننده می‌شنود؟ وقتی کشف علمی بدن ندارد یک مشکل دیگر هم هست که خاص موزه‌های علم است.
دهه‌ها موزه علوم لندن مدل‌های فیزیکی مولکول‌ها را از چوب، سیم و گل نگه داشته است، مثل مدل ساختار انسولین. اما امروز یکی از بزرگ‌ترین دستاوردهای زیست‌شناسی، یعنی «آلفافولد» (AlphaFold) که ساختار پروتئین‌ها را پیش‌بینی می‌کند و نوبل شیمی ۲۰۲۴ را گرفت، هیچ بدن فیزیکی ندارد.
نرم‌افزار است. چطور چیزی را که شکل ندارد به موزه می‌آورید؟
دکتر مورگان چند راه را مثال می‌زند: دست‌نوشته‌های نویسنده‌ای که الهام‌بخش دانشمندان بوده، لباس تیمی که در مسابقه پیش‌بینی پروتئین شرکت کرده، کد منبع نرم‌افزارهای پیشین، یا سخت‌افزاری که مدل روی آن اجرا شده. هیچ‌کدام به‌تنهایی کافی نیست، چون هرکدام فقط گوشه‌ای از ماجرا را نشان می‌دهد.
مشکل دیگر زمان است. موزهها باید چیزی را برای صد و پنجاه سال و بیشتر نگه دارند، ولی نرم‌افزار در کمتر از ده سال قدیمی می‌شود.
رابط کاربری از کار می‌افتد، فایل‌ها بی‌صدا خراب می‌شوند و شرکتی که ابزار را ساخته ممکن است محصولش را تعطیل کند. نگه‌داشتن یک مدل هوش مصنوعی یعنی نگه‌داشتن کل محیطی که روی آن اجرا می‌شد.
این ماجرا به ما چه می‌گوید؟ اگر از جزییات فاکتور بگیریم، در همه این مثال‌ها یک الگوی مشترک می‌بینیم.
موزهها کار هوش مصنوعی را به دو دسته تقسیم کرده‌اند. دسته اول «پیدا کردن و سازمان‌دادن» است: خواندن پشت عکس‌ها، پیدا کردن تکرارها، دسته‌بندی.
این دسته را با خیال راحت‌تری به ماشین می‌سپارند، البته با بازبینی انسان. دسته دوم «سخن گفتن به نام موزه» است: برچسب‌ها، روایت‌ها و ادعاهایی که بازدیدکننده به حساب اعتبار موزه باور می‌کند.
این دسته محل توجه بسیار زیادی است. ماشین می‌تواند متنی روان و حتی دقیق بنویسداما اگر متن اشتباه بود، چه کسی مسئول است و چه کسی می‌تواند آن را اصلاح کند؟
به نظر می‌رسد که ریشه‌های اعتماد از محصول به فرایند نیز منتقل می‌شود. با اینکه موزهها همچنان از معتبرترین نهادهای علمی در دنیا هستند ولی در آینده‌ای نزدیک همه چیز در آستانه تغییر قرار خواهد گرفت.
وقتی همه‌جا متن‌های روان و کارشناس‌نما تولید می‌شود، اعتبار نهاد به‌تنهایی کافی نیست. نهاد باید نشان بدهد این متن را چه کسی نوشته، از کدام منابع آمده و چه کسی آن را بررسی کرده است.
یعنی باید روش‌هایی برای حفظ و بررسی و نمایش اعتبارش به کار ببندد. به همین دلیل مدلی مثل دالیا یا نهنگ سخنگوی کمبریج تا حدی معتبر است چون منبعش معلوم است.
البته این انتخاب هزینه دارد. ساخت مدل اختصاصی به متخصص داده، زمان و بودجه نیاز دارد.
موزه‌ای که این امکانات را ندارد، احتمالا به ابزارهای تجاری آماده روی می‌آورد و همان ریسک آلودگی داده را می‌پذیرد. پس بحث فقط «آیا از هوش مصنوعی استفاده کنیم؟» نیست؛ جنبه دیگری از بحث این است که چه کسی می‌تواند مرزش را به‌صورت شفاف و قابل کنترل جانمایی کند و چه کسی نمی‌تواند.
این شکاف احتمالا بین نهادهای بزرگ و کوچک، و بین کشورهای مختلف، عمیق‌تر هم می‌شود. باید توجه کرد که «انسان‌نوشته» به‌خودی‌خود ضمانت درستی نیست.
خود موزهها هم می‌دانند متصدیان انسانی هم اشتباه کرده‌اند و روایت‌های امپراتوری‌محور و امپریالیستی و یا أنواع‌دیگر سوگیری ها برای دهه‌ها در برچسب‌های موزهها مانده‌اند. قاعده واقعی در این رویکرد «انسان در برابر ماشین» نیست؛ «قابلیت پاسخ‌گویی و اصلاح» است.
یک متن خوب، متنی است که اگر اشتباه بود، بشود فهمید از کجا آمده و درستش کرد. یک مثال معروف از دنیای کامپیوتری می‌گوید: «تا وقتی سیستم لاگ ندارد، نمی‌توان باگ آن را گرفت».
این موضوع در مورد بازتاب اطلاعات علمی نادرست که در فضای آنلاین می‌بینیم نیز صدق می‌کند. در آنجا نیز مشکل فقط وجود اطلاعات غلط نیست.
سیستم‌هایی که بر اساس جلب توجه و تعامل کار می‌کنند، متن‌هایی را که «باورپذیرتر» و «روان‌تر» هستند را بیشتر منتشر می‌کنند، حتی اگر درست‌تر نباشند. قاعده ۶۰ کلمه‌ای موزه در واقع یک الگوی کوچک و کند و انسانی در برابر همین منطق است.
البته باید صادق باشیم: برچسب موزه به هزاران نفر می‌رسد و الگوریتم‌های شبکه‌های اجتماعی به میلیون‌ها نفر. درواقع شاید بتوان گفت مدل موزه راه‌حل مشکل نیست؛ نمونه‌ای است که نشان می‌دهد اعتماد را باید با وسواس طراحی کرد.
معماری اعتماد اگر این رشته از مثالهای موزه‌ای را دنبال کنیم، می‌توانیم به نتیجه‌ای برسیم که از موزه فراتر می‌رود. وقتی از ورود هوش مصنوعی به یک حوزه حرف می‌زنیم، معمولا ذهنمان به سمت زیرساخت و فرایند می‌رود: چه ابزاری بخریم، چه داده‌ای جمع کنیم، کار را چطور سازمان بدهیم.
این‌ها ضروری‌اند، اما مثالهای بالا چیز دیگری را هم نشان می‌دهند: اعتماد لزوما از توانایی ابزار و اعتبار قبلی نهاد بیرون نمی‌اید. اعتماد را باید طراحی کرد.
یعنی پیش از آنکه فناوری وارد کار شود، باید بپرسیم مخاطب از کجا بفهمد این متن از کجا آمده، چه کسی پایش ایستاده و اگر اشتباه بود به چه کسی بگوید و چه کسی مسیول است. این پرسش‌ها آرایش آخر کار نیستند؛ بخشی از طرح اصلی‌اند، به اندازه زیرساخت و فرایند مهم هستند.
می‌شود اسم این طراحیِ آگاهانه را «معماری اعتماد» گذاشت. از همین مثالهای موزه‌ای می‌شود پنج جزء برای این معماری استخراج کرد: 1.
تقسیم کار روشن: معلوم باشد ماشین کجا کمک می‌کند ( مثلا پیدا کردن، دسته‌بندی، پیشنهاد) و کجا استفاده از آن ممنوع است ( مثلا حرف زدن به نام نهاد). ۲.
منبع شناخته‌شده: ابزار از چه داده‌ای یاد گرفته؟ آیا می‌توان آن را بررسی کرد؟
۳. انسان پاسخگو: برای هر ادعای عمومی، یک نفر یا یک نهاد مشخص مسئول باشد.
۴. شفافیت با مخاطب: مخاطب بداند چه بخشی را ماشین ساخته و چه بخشی را انسان.
۵. راه اصلاح: اگر اشتباهی پیدا شد، مسیر روشنی برای تصحیح و اعلام وجود داشته باشد.
معماری اعتماد در عصر هوش مصنوعی به موزه محدود نیست. هر جا هوش مصنوعی وارد می‌شود، همان پرسش‌ها پیش می‌آید.
در رسانه و روزنامه‌نگاری، سوال این است که چه کسی گزارش را نوشته و چه کسی درستی آن را تایید کرده. در آموزش، سوال این است که معلم و ابزار هر کدام چه نقشی در یادگیری دارند.
در سلامت، پیشنهاد ماشین چه وقت به تصمیم پزشک تبدیل می‌شود. در دادگاه و اداره، مسئولیت تصمیمی که با کمک الگوریتم گرفته شده با کیست.
در همه این موراد فناوری فرق می‌کند، اما پرسش «اعتماد را چطور طراحی کنیم؟» همان است. اگر بخواهیم دقیق باشیم، قاعده ۶۰ کلمه یک جز کوچک از این معماری است، نه تمام آن.
هنوز نمی‌دانیم این معماری در مقیاس بزرگ، در برابر فشار هزینه و رقابت، و در زبان‌ها و فرهنگ‌هایی که ابزارها برایشان کمتر آموزش دیده‌اند، چگونه خواهد بود. اما نکته اصلی روشن است: مرز بین ماشین و انسان را باید قبل از ورود یک فناوری کشید، نه بعد از نخستین خطای بزرگ و این کار را فقط با یک ممنوعیت یا یک مجوز نمی‌شود انجام داد؛ باید معماری‌اش را طراحی کرد.