توافق جهانی بر سر هوش مصنوعی دشوارتر از مذاکرات هسته‌ای

بیل گیتس، کارآفرین آمریکایی اعلام کرد؛ توافق جهانی بر سر هوش مصنوعی دشوارتر از مذاکرات هسته‌ای گروه آنلاین روزنامه دنیای اقتصاد- کسری غفوری: بیل گیتس، کارآفرین آمریکایی و از بنیان‌گذاران مایکروسافت، هشدار داده است که دستیابی به چارچوب و توافقی بین‌المللی برای قانون‌گذاری و مهار هوش مصنوعی، به‌مراتب پیچیده‌تر از مذاکرات محدودسازی تسلیحات هسته‌ای در دوران جنگ سرد خواهد بود. او در مصاحبه با شبکه ان‌بی‌سی تاکید کرد که دولت‌ها باید نقشی فعال در نظارت بر مدل‌های پیشرفته هوش مصنوعی ایفا کنند و چنین سازوکارهای کنترلی، پیشرفت این صنعت راهبردی را کند نخواهد کرد.

گیتس معتقد است ایالات متحده باید پیشگام تدوین قوانین جهانی در این عرصه باشد، اما هم‌زمان یادآور شد که تنظیم یک رژیم حقوقی مشترک در مقیاس بین‌المللی با چالش‌هایی بسیار عمیق‌تر از توافق‌های راهبردی قرن بیستم روبه‌رو است. این دیدگاه در حالی مطرح می‌شود که رویکردهای متفاوتی در عالی‌ترین سطوح تصمیم‌گیری سیاسی واشنگتن جریان دارد.

دونالد ترامپ به‌تازگی با رد درخواست‌ها برای اعمال نظارت فدرال بر شرکت‌های توسعه‌دهنده هوش مصنوعی، تاکید کرده است که برنده نهایی این رقابت فناورانه، برنده آینده خواهد بود. از نگاه ترامپ، اولویت مطلق حفظ برتری آمریکا بر چین و سایر رقبا است و نباید با موانع نظارتی، سرعت توسعه را کاهش داد.

در مقابل، گیتس استدلال می‌کند که پایش و شفاف‌سازی عملکرد آزمایشگاه‌های فناوری، مانع حفظ برتری فناورانه بر پکن نمی‌شود. گیتس سخنان ترامپ را «قابل قبول» خواند، اما به باور او، رئیس‌جمهور آمریکا پس از شنیدن دیدگاه او و دیگران، از جمله اینکه چنین نظارتی دست آمریکا را در رقابت با دیگر کشورها نمی‌بندد، با آن‌ها به اجماع خواهد رسید.

گیتس برای توجیه ضرورت همکاری جهانی، به تجربه‌های تاریخی پس از جنگ جهانی دوم اشاره کرد؛ دورانی که ایالات متحده در ایجاد توافق‌های بین‌المللی برای مهار تهدیدهای مشترک بشری نقشی محوری داشت. ارتقای استانداردهای بین‌المللی هوانوردی، معاهدات حفاظت از لایه ازون و پیمان‌های منع گسترش سلاح‌های هسته‌ای نمونه‌هایی از این دست هستند.

به گفته او، آمریکا در این موارد، همراه با دوستان و متحدانش، نقش «بازیگری منصف» را ایفا کرد و از مزیت‌های منحصربه‌فرد خود برای برتری‌جویی بهره نگرفت. از نگاه او، مسئله هوش مصنوعی نیز از جنس همان بحران‌هایی است که فراتر از مرزهای ملی می‌رود و ایجاب می‌کند همه کشورها بپذیرند که سرنوشت بشر به یکدیگر گره خورده است.

هم‌زمان، نگرانی از خطرات کنترل‌نشده این فناوری در بدنه شرکت‌های پیشرو نیز اوج گرفته است. جیکوب کاکسن، افشاگری که به‌تازگی از آنتروپیک استعفا داده است، اخیرا هشدار داد که سازندگان هوش مصنوعی صادقانه باور دارند این فناوری ممکن است تا پایان این دهه همه ما را نابود کند.

چند روز بعد، مدیران ارشد دو شرکت بزرگ این حوزه یعنی داریو آمودی در آنتروپیک و سم آلتمن در اوپن‌ای‌آی، نسبت به خطرات نزدیک شدن به مرحله هوش مصنوعی فوق‌هوشمند ابراز نگرانی کرده و خواهان تعدیل شتاب توسعه این سامانه‌ها شده‌اند. آمودی معتقد است سرعت پیشرفت شرکت‌های پیشرو باید تا جایی مهار شود که این شرکت‌ها همچنان از چین جلوتر بمانند.

او همچنین هماهنگی و گفت‌وگوی بین‌المللی میان دولت‌های دموکراتیک و سایر ساختارهای سیاسی را برای تدوین مقررات مشترک ضروری می‌داند. در کنگره آمریکا نیز رو کانا، نماینده دموکرات، خواستار تشکیل کارگروهی مشترک از متخصصان آمریکا و چین برای دستیابی به توافقی الزام‌آور شده است.

او تاکید کرده که ممنوعیت توسعه مدل‌های خودبهبودگر نباید مسئله‌ای مناقشه‌برانگیز باشد، چرا که پکن نیز نمی‌خواهد کنترل سامانه‌های پیچیده هوش مصنوعی را از دست بدهد. از نگاه کانا، آمریکا می‌تواند رهبری معاهده‌ای بین‌المللی، راستی‌آزمایی‌پذیر و قابل‌اجرا را بر عهده بگیرد که بر عملکرد آزمایشگاه‌های پیشرو نظارت کند.

هم‌زمان، اوپن‌ای‌آی از چند مورد رفتار نگران‌کننده عامل‌های هوشمند خود خبر داد و این شرکت و آنتروپیک اعلام کردند رفتار این عامل‌ها را رصد خواهند کرد. رخدادهایی نظیر نفوذ خودسرانه و بدون مجوز به سامانه‌های یک شرکت دیگر، نگرانی‌ها را درباره استقلال عمل ناخواسته این فناوری تشدید کرده است.

این موضوع حتی به مذاکرات دیپلماتیک دوجانبه سران آمریکا و چین نیز راه یافته و کاخ سفید تایید کرده است که دو کشور کانالی منظم برای تبادل نظر درباره فرصت‌ها و تهدیدهای هوش مصنوعی ایجاد کرده‌اند و دور بعدی این تبادل نظر تا نوامبر انجام می‌شود. ترامپ پیش از این دیدار نوشته بود می‌خواهد وضعیت «ابرهوش» را «دقیقاً همان‌جا که هست» نگه دارد و این موضع چین نیز هست.

تهدیدهای عینی و چالش دسترسی عادلانه فارغ از مباحث کلان درباره خطرات بلندمدت هوش مصنوعی، بیل گیتس بر تهدیدهای عینی و ملموسی تاکید می‌کند که هم‌اکنون جامعه بشری را نشانه گرفته‌اند. به گفته او، خطرناک‌ترین سناریوی کنونی، تجهیز بازیگران مخرب به ابزارهای هوش مصنوعی است.

در گذشته تنها چند کشور قدرتمند با ارتش‌های سایبری مجهز توانایی اخلال در شبکه برق یا طراحی حملات بیوتروریستی را داشتند، اما امروز گروه‌های کوچک خرابکار می‌توانند با بهره‌گیری از هوش مصنوعی دست به حملات گسترده بانکی، مالی و زیرساختی بزنند. ترکیب سوءنیت با توان محاسباتی بالا تهدیدی قریب‌الوقوع است که ضرورت نظارت نهادی را دوچندان می‌کند.

در مواجهه با این خطرات، برخی قانون‌گذاران در کنگره طرحی فراجناحی را برای طراحی «کلید قطع اضطراری» دنبال می‌کنند تا در صورت بروز بحران، امکان خاموش کردن فوری سامانه‌ها فراهم باشد. با این حال، گیتس معتقد است چنین سازوکاری به‌تنهایی مانع وقوع فاجعه نمی‌شود.

او تاکید دارد که بدون پایش مستمر، ثبت داده‌های رفتاری و شفافیت درونی سیستم‌ها، نهادهای امنیتی و قضایی توانایی شناسایی زودهنگام خرابکاری‌ها را نخواهند داشت. پرسش حیاتی این نیست که پیشرفت فناوری متوقف شود یا خیر؛ بلکه مسئله این است که آیا جامعه جهانی نظارت و تدابیر ایمنی را پیش از وقوع حملات گسترده مستقر خواهد کرد یا ناچار می‌شود پس از تحمیل فجایع سنگین به این مسیر روی آورد.

بنیان‌گذار مایکروسافت در بخش دیگری از صحبت‌هایش به جنبه‌های انسانی و دسترسی عادلانه به این فناوری پرداخت. او هشدار داد که سامانه‌های کنونی عمدتا برای زبان انگلیسی و معدودی از زبان‌های پرکاربرد بهینه‌سازی شده‌اند و ضریب خطای آن‌ها در زبان‌های محلی و بومی آفریقایی حدود ده برابر بیشتر است.

در حوزه‌های حساسی مانند آموزش و تشخیص‌های درمانی، این میزان خطا می‌تواند بسیار خطرناک باشد. بنیاد گیتس هم‌اکنون با همکاری ۶۰ شرکت هوش مصنوعی در حال تعریف معیارهای کیفی جدید است و گیتس امیدوار است ظرف پنج سال آینده، دقت این سامانه‌ها در تمامی زبان‌هایی با بیش از یک میلیون گویشور به سطح زبان انگلیسی نزدیک شود.

او همچنین خاطرنشان کرد که این بنیاد قصد دارد تمام دارایی بیش از دویست میلیارد دلاری خود را در نوزده سال آینده صرف امور عام‌المنفعه کند و استفاده هوشمندانه از داده‌های هوش مصنوعی برای ریشه‌کنی بیماری‌هایی نظیر مالاریا و سوءتغذیه، می‌تواند اثربخشی این منابع عظیم مالی را به‌مراتب افزایش دهد.