وقتی هوش مصنوعی اشتباه می‌کند، چه کسی مقصر است؟ هیچ‌کس نمی‌داند

پژوهش جدید مدرسه‌ی وارتون نشان می‌دهد مدیران و شرکت‌ها درباره‌ی تعیین مقصر اصلی هنگام بروز خطای مرگبار بات‌های هوش مصنوعی دچار سردرگمی شدید هستند. افزایش استقلال هوش مصنوعی برای ارتقای بهره‌وری در سازمان‌ها، چالش حقوقی و مدیریتی تازه‌ای پدید آورده است.

گزارش تازه‌ی مدرسه‌ی وارتون در دانشگاه پنسیلوانیا نشان می‌دهد با وجود واگذاری مسئولیت‌های سنگین به عامل‌های هوشمند، مدیران و کارمندان هنوز توافقی بر سر مقصر نهایی اشتباه‌های پرهزینه ندارند. نظرسنجی میان مدیران نشان داد در پاسخ به اینکه پس از یک خطای بزرگ چه کسی باید پاسخگو باشد، آرا به‌طور مساوی تقسیم شده است.

حدود یک‌چهارم پاسخ‌دهندگان کارمند به‌کارگیرنده را مسئول دانستند، درحالی‌که سهم‌های مشابهی به مدیر مستقیم و تیم ارزیابی ریسک سازمان اشاره کردند. نزدیک به ۱۰ درصد تأمین‌کننده یا توسعه‌دهنده‌ی مدل را مقصر معرفی کردند و ۱۰ درصد دیگر هیچ پاسخی نداشتند.

دغدغه‌ی مسئولیت‌پذیری هم‌زمان با ارائه‌ی ابزارهای پیشرفته‌تر اوپن‌ای‌آی، گوگل و متا شدت گرفته است؛ ابزارهایی که با هویت‌های سازمانی مستقل گاهی چندین روز روی اهداف مشخص کار می‌کنند. خطرات فوری اغلب نه از سرکشی ربات‌ها، بلکه از خطاهای ساده در دستورها (پرامپت) ناشی می‌شوند؛ اشتباهاتی که به سامانه‌های زنده مثل پایگاه‌های داده یا ایمیل متصل هستند.

نمونه‌های واقعی خسارت‌ها در بازار آمریکا ثبت شده است؛ در یک فروشگاه زنجیره‌ای، خطای پرامپت باعث ارسال اعلان نادرست استرداد وجه به بیش از ۱۸ هزار مشتری طی کمتر از ۶ ساعت شد. در شرکتی دیگر، پرامپت نادرست قیمت یک پرچمدار را به مدت ۳ ساعت با تخفیف ۸۵ درصدی ثبت کرد و بیش از ۷۰۰ سفارش خرید نامعتبر روی دست پشتیبانی گذاشت.

جرمی کورست، شریک در شرکت مشاوره‌ی GBK Collective و همکار پژوهش مدرسه‌ی وارتون، گفت: «سازمان‌ها دارند همه‌چیز را در لحظه یاد می‌گیرند. وقتی از یک مدیر ارشد چنین سوالی می‌پرسم، رایج‌ترین پاسخی که دریافت می‌کنم این است که هنوز اصلا به این موضوع فکر نکرده‌اند.»