وقتی ماشین‌ها از انسان جلو می‌زنند
چالش اصلی آینده علم، انتخاب میان انسان و ماشین نیست؛ بلکه یافتن راهی برای بهره‌گیری از توانایی‌های ماشین‌ها، بدون کنار گذاشتن قضاوت انسانی است.
به نقل از اکونومیست؛ ۶ اکتبر ۲۰۲۶ (۱۴ مهر ۱۴۰۵) ممکن است به‌عنوان یکی از روز‌های مهم تاریخ ریاضیات به یاد آورده شود. اوپن‌ای‌آی، یکی از شرکت‌های پیشرو آمریکایی در حوزه هوش مصنوعی، در این روز ۷۲۲ دست‌نوشته علمی منتشر کرد که نتایج مرتبط با ۳۷۲ مسئله یا خانواده مسئله ریاضی را در بر می‌گرفت؛ مسائلی که برخی از آنها سال‌ها یا دهه‌ها ذهن پژوهشگران را به خود مشغول کرده بودند.
انتشار این مجموعه، جامعه ریاضیات را با پرسش‌هایی جدی درباره اعتبار نتایج، شیوه تولید دانش و آینده این رشته روبه‌رو کرده است. پیامد‌های این تحول احتمالاً بسیار فراتر از ریاضیات خواهد رفت.
اکنون باید به این پرسش پاسخ داد که هوش مصنوعی چه تأثیری بر علم به‌طور کلی می‌گذارد. دستاورد‌های اخیر، از یک سو نشانه‌ای از ظرفیت ماشین‌ها برای پیشبرد دانش بشری است و از سوی دیگر، سرعت سرسام‌آور پیشرفت این فناوری و احتمال شکل‌گیری آینده‌ای را یادآوری می‌کند که در آن، ماشین‌ها به نتایجی می‌رسند که ذهن انسان به‌سادگی قادر به درک آنها نیست.
مسئله اساسی این است که چگونه می‌توان بدون قربانی کردن فهم و شناخت، از این پیشرفت بهره برد. از اثبات ریاضی تا کشف‌های علمی هوش مصنوعی توانایی‌های خود را در ریاضیات به شکلی چشمگیر نشان داده است.
یکی از دلایل اهمیت این حوزه آن است که اثبات‌های ریاضی بر پایه اصول موضوعه و استدلال منطقی شکل می‌گیرند؛ بنابراین، در صورت صورت‌بندی مناسب، می‌توان صحت بسیاری از آنها را به کمک رایانه بررسی کرد. با این حال، تأثیر هوش مصنوعی به ریاضیات محدود نمی‌شود.
این فناوری پیش‌بینی‌های هواشناسی را بهبود داده، به شناسایی میلیون‌ها ماده بالقوه مفید کمک کرده و در کنترل آزمایش‌های مرتبط با همجوشی هسته‌ای به کار گرفته شده است. همچنین، سامانه‌های هوش مصنوعی توانسته‌اند ساختار بسیاری از پروتئین‌ها را بر اساس توالی اسید‌های آمینه پیش‌بینی کنند؛ پیشرفتی که نقش مهمی در تحول زیست‌شناسی ساختاری داشته است.
این دستاورد‌ها احتمالاً تنها آغاز راه‌اند. در حوزه زیست‌شناسی، پژوهشگران از هوش مصنوعی برای طراحی محصولات کشاورزی مقاوم به خشکسالی، جست‌وجوی دارو‌های جدید و طراحی ویروس‌هایی استفاده می‌کنند که بتوانند باکتری‌های مضر را هدف قرار دهند.
البته در چنین کاربردهایی، ارزیابی دقیق ایمنی و مهار خطر‌های احتمالی اهمیت اساسی دارد. تلاش‌هایی نیز برای ساخت مدل‌های رایانه‌ای از نحوه عملکرد سلول‌ها در جریان است.
اگر دانشمندان بتوانند فرایند‌های زیستی را با دقت کافی در محیط رایانه شبیه‌سازی کنند، امکان آزمودن فرضیه‌ها و طراحی آزمایش‌های تازه فراهم خواهد شد. در چشم‌اندازی دورتر، این پیشرفت‌ها ممکن است توانایی انسان برای طراحی سامانه‌های زنده جدید را افزایش دهند.
در چنین شرایطی، دی‌ان‌ای می‌تواند بیش از گذشته به‌عنوان نوعی دستورالعمل زیستی قابل‌تحلیل و دست‌کاری در نظر گرفته شود؛ هرچند پیچیدگی حیات را نمی‌توان به‌سادگی با برنامه‌نویسی رایانه‌ای یکسان دانست. وقتی دانشمندان نگران می‌شوند چشم‌انداز پیشرفت علمی با کمک هوش مصنوعی، هم هیجان‌انگیز است و هم هراس‌آور.
واکنش بخشی از جامعه ریاضیات به انتشار گسترده دست‌نوشته‌های اوپن‌ای‌آی، نشان داد که همه پژوهشگران این تحول را صرفاً یک موفقیت علمی نمی‌دانند. انجمن ریاضیات انسانی، گروهی متشکل از پژوهشگران منتقد این رویکرد، با انتشار بیانیه‌ای به شیوه اقدام اوپن‌ای‌آی اعتراض کرد.
نگرانی آنها تنها به این موضوع محدود نمی‌شود که هوش مصنوعی ممکن است مسئله‌ای را حل کند که یک ریاضیدان سال‌ها برای آن وقت گذاشته است؛ مسئله مهم‌تر این است که تولید انبوه نتایج، بدون فرصت کافی برای بررسی و ارزیابی مستقل، چه اثری بر فرهنگ علمی خواهد گذاشت. از نگاه این منتقدان، ارزش ریاضیات فقط در پاسخ نهایی یا اثبات یک قضیه خلاصه نمی‌شود.
بخش مهمی از ارزش این رشته در مسیر رسیدن به پاسخ نهفته است؛ مسیری که در آن، پژوهشگر با طرح فرضیه، آزمودن ایده‌ها، کنار گذاشتن راه‌های نادرست و ساختن استدلال‌های تازه، درک خود را گسترش می‌دهد. اگر هوش مصنوعی پاسخی درست، اما دشوارفهم تولید کند، ممکن است نتیجه‌ای ارزشمند به دست آمده باشد، بی‌آن‌که دانشمندان بتوانند به‌سرعت از منطق آن سر درآورند.
چنین وضعیتی را می‌توان به ارائه پاسخ تکالیف به دانش‌آموزان تشبیه کرد؛ پاسخ‌ها ممکن است درست باشند، اما در اختیار داشتن آنها لزوماً به معنای یادگیری نیست. با این همه، در مخالفت با هوش مصنوعی ممکن است نوعی دفاع از منافع صنفی نیز وجود داشته باشد.
دانشگاهیان نمی‌توانند به‌تنهایی تعیین کنند که دانش باید چگونه تولید شود یا چه کسی حق دارد در مسیر کشف حقیقت مشارکت کند. جست‌وجوی دانش به همه انسان‌ها تعلق دارد و نباید به گروهی محدود از پژوهشگران منحصر شود.
همچنین، ساختار‌های دانشگاهی که اعتبار و پیشرفت حرفه‌ای افراد را بر اساس تولید مقاله یا اثبات قضیه تعریف می‌کنند، تغییرناپذیر نیستند. اگر ماشین‌ها بتوانند بخشی از کار‌های پژوهشی را انجام دهند، نظام علمی نیز باید برای ارزیابی، تفسیر و توسعه نتایج تولیدشده به کمک هوش مصنوعی بازطراحی شود.
آیا فهمیدن همیشه مهم‌تر از نتیجه است؟ در علم نباید فهم و شناخت را به ارزشی مطلق تبدیل کرد که هر نتیجه‌ای در برابر آن اهمیت کمتری داشته باشد.
انسان‌ها همواره از سازوکار‌هایی بهره برده‌اند که همه جزئیات عملکردشان را نمی‌دانند. برای نمونه، استامینوفن می‌تواند سردرد را تسکین دهد، بی‌آن‌که مصرف‌کننده شناخت کاملی از تمام فرایند‌های زیستی مرتبط با اثر آن داشته باشد.
با این حال، میان استفاده از ابزاری که سازوکار آن به‌اندازه کافی بررسی شده و واگذاری بخش بزرگی از تولید دانش به سامانه‌هایی که عملکردشان به‌طور کامل قابل ارزیابی نیست، تفاوت مهمی وجود دارد. نگرانی از سپردن علم به ماشین‌ها نیز بی‌دلیل نیست.
شرکت‌های هوش مصنوعی منابع گسترده‌ای را صرف پژوهش علمی می‌کنند؛ نه لزوماً از سر نوع‌دوستی، بلکه به این دلیل که حل مسائل پیچیده می‌تواند به بهبود توانایی مدل‌هایشان کمک کند. بر اساس این دیدگاه، مدلی که در پژوهش علمی عملکرد بهتری دارد، ممکن است در انجام وظایف دیگر نیز توانمندتر شود.
اگر چنین روندی ادامه پیدا کند، رقابت با آزمایشگاه‌های بزرگ هوش مصنوعی برای بسیاری از پژوهشگران و مؤسسات علمی دشوارتر خواهد شد. این آزمایشگاه‌ها ممکن است به مدل‌هایی دست یابند که بتوانند در بهبود نسل‌های بعدی خود نقش داشته باشند و به‌صورت مستقل بخش‌های بیشتری از فرایند پژوهش را پیش ببرند.
در چنین چشم‌اندازی، ارتباط این سامانه‌ها با جهان فیزیکی نیز می‌تواند گسترش یابد؛ از طریق ربات‌های انسان‌نما، ابزار‌های خودکار آزمایشگاهی و سامانه‌هایی که طراحی و اجرای آزمایش‌ها را بر عهده می‌گیرند. خطر واگذاری تصمیم‌ها به ماشین‌ها چالشی که این آینده برای علم ایجاد می‌کند، شباهت زیادی به مسئله‌ای دارد که جامعه در مواجهه با هوش مصنوعی با آن روبه‌روست.
انسان‌ها باید منابع، زیرساخت‌ها و توان پردازشی لازم را در اختیار این سامانه‌ها قرار دهند تا بتوانند به فعالیت خود ادامه دهند. اما اگر کسی نداند این ماشین‌ها دقیقاً چه می‌کنند و نتواند نتایجشان را به‌طور مستقل بررسی کند، تأمین منابع برای آنها می‌تواند به اقدامی پرخطر تبدیل شود.
در چنین وضعیتی، اطمینان از اینکه مدل‌ها در راستای منافع بشریت عمل می‌کنند، دشوار خواهد بود. حتی اگر روزی بتوان سامانه‌های هوش مصنوعی را با اهداف انسانی همسو کرد و قابلیت اعتماد آنها را افزایش داد، جامعه‌ای که در آن مردم صرفاً از ماشین‌ها می‌پرسند چه کاری انجام دهند، با مسئله‌ای عمیق‌تر روبه‌رو خواهد شد: تضعیف استقلال و قدرت قضاوت انسان.
ممکن است برخی افراد حاضر باشند چنین وضعیتی را بپذیرند، به شرط آن‌که نتیجه آن درمان بیماری‌ها، افزایش رفاه و حل مشکلات بزرگ بشری باشد. اما تا زمانی که همسویی هوش مصنوعی با منافع انسان به‌طور قابل اتکا تضمین نشده است، تصمیم‌گیری و نظارت انسانی باید بخش جدایی‌ناپذیر فرایند علمی باقی بماند.
آزمایشگاه‌ها باید بتوانند از هوش مصنوعی برای حل مسائل پیچیده استفاده کنند، اما منابعی مانند تجهیزات آزمایشگاهی و توان پردازشی رایانه‌ها نیز باید تحت هدایت انسان‌هایی قرار داشته باشند که توان ارزیابی نتایج، تشخیص خطا و قضاوت درباره پیامد‌های پژوهش را دارند. این رویکرد ممکن است سرعت پیشرفت را کاهش دهد، اما کند شدن بخشی از فرایند پژوهش لزوماً به معنای عقب‌ماندن علم نیست؛ به‌ویژه اگر در مقابل، امکان بررسی دقیق‌تر نتایج و حفظ نظارت انسانی فراهم شود.
بازتعریف نقش دانشمند در عصر هوش مصنوعی پیشرفت علم با کمک ماشین‌ها، پژوهشگران را ناگزیر می‌کند نقش حرفه‌ای خود را از نو تعریف کنند. در آینده، ارزش علمی یک پژوهشگر ممکن است کمتر به تعداد مقالاتی وابسته باشد که شخصاً نوشته یا اثبات‌هایی که به‌تنهایی به دست آورده است و بیشتر به توانایی او در هدایت مدل‌ها، تحلیل نتایج، راستی‌آزمایی یافته‌ها و تشخیص پرسش‌های مهم علمی بستگی داشته باشد.
برای تحقق این تغییر، نظام دانشگاهی و دولت‌ها نیز باید معیار‌های ارزیابی پژوهش و تخصیص بودجه را بازنگری کنند. بررسی انتقادی نتایج تولیدشده به کمک هوش مصنوعی، آموزش مدل‌ها و شناسایی محدودیت‌های آنها باید به فعالیت‌هایی تبدیل شوند که اعتبار علمی و فرصت پیشرفت حرفه‌ای به همراه دارند.
آزمایشگاه‌های هوش مصنوعی نیز باید خود را به‌عنوان اعضایی مسئول در جامعه علمی تعریف کنند؛ از جمله با فراهم کردن امکان داوری همتا، انتشار روش‌ها و کد‌های مورد استفاده و ارائه توضیحات روشن درباره چگونگی دستیابی به نتایج. انتشار نتایج به‌تنهایی کافی نیست.
جامعه علمی باید فرصت داشته باشد ادعا‌ها را بررسی کند، خطا‌ها را بیابد و مشخص سازد کدام دستاورد‌ها واقعاً معتبر، تازه و قابل استفاده‌اند. حرف هیچ‌کس را بی‌چون‌وچرا نپذیر بررسی و ارزیابی نتایج تولیدشده به کمک رایانه ممکن است در مقایسه با کشف‌های بزرگ و هیجان‌انگیز، فعالیتی کم‌جاذبه به نظر برسد.
با این حال، بخش قابل‌توجهی از پژوهش‌های انسانی نیز از خطا‌ها و کاستی‌هایی رنج می‌برد؛ از جمله به این دلیل که پژوهشگران برای بررسی انتقادی آثار دیگران، به‌اندازه کافی پاداش و اعتبار علمی دریافت نمی‌کنند. تقویت فرهنگ راستی‌آزمایی و تردید علمی می‌تواند به بهبود کیفیت پژوهش کمک کند.
در این زمینه، شعار انجمن سلطنتی بریتانیا که در قرن هفدهم میلادی برگزیده شد، همچنان راهگشاست: «Nullius in verba»؛ عبارتی لاتین به معنای «حرف هیچ‌کس را بی‌چون‌وچرا نپذیر». این اصل یادآوری می‌کند که اعتبار علمی یک ادعا نباید صرفاً بر اساس جایگاه گوینده یا قدرت ابزار تولیدکننده آن پذیرفته شود.
حتی اگر یک مدل پیشرفته هوش مصنوعی نتیجه‌ای شگفت‌انگیز ارائه کند، آن نتیجه همچنان باید در معرض بررسی مستقل قرار گیرد. چالش اصلی آینده علم، انتخاب میان انسان و ماشین نیست؛ بلکه یافتن راهی برای بهره‌گیری از توانایی‌های ماشین‌ها، بدون کنار گذاشتن قضاوت انسانی است.
اگر قرار است هوش مصنوعی مرز‌های دانش را گسترش دهد، باید هم‌زمان ظرفیت انسان برای فهم، ارزیابی و هدایت این پیشرفت نیز تقویت شود.