هوش مصنوعی می‌تواند به پایان بشریت منجر شود؟ چهار پیشنهاد برای جلوگیری از فاجعه

دو چهره دانشگاهی هشدار می‌دهند که رقابت بر سر توسعه هوش مصنوعی، بدون نظارت و تدابیر ایمنی کافی، می‌تواند به خطری جدی برای بشریت تبدیل شود. آن‌ها چهار پیشنهاد مشخص برای مهار این خطرها مطرح کرده‌اند؛ بدون آنکه آمریکا رهبری فناوری را به چین واگذار کند.

لارنس لسیگ، استاد حقوق دانشگاه هاروارد، و یوشوا بنجیو، استاد دانشگاه مونترال و از پژوهشگران برجسته هوش مصنوعی، در مقاله‌ای در اکونومیست از کنگره آمریکا خواسته‌اند برای کاهش خطرهای هوش مصنوعی، چهار اقدام قانونی را در دستور کار قرار دهد. به باور این دو پژوهشگر، هشدارهای دانشمندان درباره دشواری کنترل فناوری‌های پیشرفته هوش مصنوعی سال‌ها جدی گرفته نشده است.

با این حال، رخدادهای اخیر، از جمله نفوذ مدل‌های هوش مصنوعی شرکت اوپن ای آی (چت جی پی تی) به زیرساخت‌های یک پلتفرم توسعه هوش مصنوعی در جریان آزمایش‌های امنیت سایبری، نگرانی‌ها درباره توانایی این فناوری‌ها برای عبور از محدودیت‌های تعیین‌شده را افزایش داده است. نویسندگان معتقدند قانون‌گذاری نباید به توقف توسعه هوش مصنوعی منجر شود، بلکه باید مانع از آن شود که رقابت شرکت‌ها برای ساخت مدل‌های قدرتمندتر، ایمنی انسان‌ها را به حاشیه براند.

نویسندگان پیشنهاد می‌کنند شرکت‌های هوش مصنوعی بتوانند برای بهبود تدابیر ایمنی، درباره کاهش سرعت توسعه مدل‌های پیشرفته با یکدیگر توافق کنند. نگرانی از پیامدهای احتمالی قوانین ضدانحصار ممکن است شرکت‌ها را از چنین توافق‌هایی بازدارد؛ به همین دلیل، آن‌ها خواهان روشن‌شدن وضعیت حقوقی این همکاری‌ها هستند.

پیشنهاد دوم به مدل‌هایی مربوط است که می‌توانند به‌طور مستقل مدل‌های هوش مصنوعی جدیدی طراحی کنند. این فرایند که «خودبهبوددهی بازگشتی» نام دارد، ممکن است به توسعه سامانه‌هایی منجر شود که توانایی‌هایشان با سرعت افزایش می‌یابد و کنترل آن‌ها دشوارتر می‌شود.

نویسندگان خواهان توقف توسعه چنین مدل‌هایی، دست‌کم تا زمان تأیید ایمنی آن‌ها از سوی نهادی مستقل شبیه سازمان غذا و داروی آمریکا، هستند. به باور این دو پژوهشگر، شرکت‌های فناوری باید در قبال خسارت‌هایی که محصولاتشان ایجاد می‌کنند، مسئولیت حقوقی داشته باشند و برای پوشش این خسارت‌ها بیمه تهیه کنند.

چنین سازوکاری می‌تواند شرکت‌ها را به سمت توسعه فناوری‌های کم‌خطرتر سوق دهد؛ زیرا هرچه خطر محصولات بیشتر باشد، هزینه بیمه آن‌ها نیز می‌تواند افزایش یابد. چهارمین پیشنهاد، حمایت قانونی از کارکنانی است که درباره خطرهای ایمنی هوش مصنوعی به نهادهای نظارتی یا مؤسسات ارزیابی ایمنی گزارش می‌دهند.

نویسندگان معتقدند حمایت از افشاگران نباید فقط به کشف جرائم محدود باشد و کسانی را نیز در بر بگیرد که درباره خطرهای احتمالی فناوری‌های پیشرفته هشدار می‌دهند. یکی از استدلال‌های مخالفان قانون‌گذاری این است که محدودکردن شرکت‌های آمریکایی می‌تواند به چین فرصت دهد در رقابت هوش مصنوعی پیش بیفتد.

اما لسیگ و بنجیو این نگرانی را کافی نمی‌دانند و معتقدند آمریکا می‌تواند هم‌زمان با حفظ جایگاه فناوری خود، تدابیر ایمنی را تقویت کند. آن‌ها همچنین بر همکاری بین‌المللی تأکید دارند.

به باور این دو پژوهشگر، آمریکا باید به‌جای انجام جداگانه تمام تحقیقات ایمنی، با نهادهای فعال در بریتانیا، اتحادیه اروپا، کانادا، ژاپن و کره جنوبی همکاری کند و در شکل‌گیری استانداردهای مشترک نقش محوری داشته باشد. با این حال، نویسندگان می‌پذیرند که اجرای برخی پیشنهادها، به‌ویژه محدودیت بر توسعه مدل‌های خودبهبوددهنده و ایجاد بازار بیمه هوش مصنوعی، دشوارتر خواهد بود.

مقاله در پایان هشدار می‌دهد که توسعه هوش مصنوعی نباید به رقابتی تبدیل شود که در آن شرکت‌ها و دولت‌ها برای پیشی‌گرفتن از رقبا، خطرهای احتمالی را نادیده بگیرند. از نگاه این دو پژوهشگر، همکاری قانون‌گذاران، دانشمندان و نهادهای مستقل برای شناخت و مهار این خطرها ضرورتی فوری دارد.