بنیان‌گذار دیپ‌مایند: هک‌های هوش مصنوعی زنگ خطر اولیه هستند

«دمیس هاسابیس»، هم‌بنیان‌گذار و رئیس گوگل دیپ‌مایند، روز چهارشنبه گفت حملات سایبری اخیر با استفاده از عامل‌های هوش مصنوعی، «زنگ خطر اولیه» هستند و اگر امنیت این سامانه‌ها تقویت نشود، جهان ممکن است به‌زودی با حوادث جدی‌تری روبه‌رو گردد. رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از جمله نفوذ به شبکه‌های شرکتی و افشای اخیر آنتروپیک مبنی بر اینکه یکی از مدل‌های هوش مصنوعی این شرکت گزارشی دروغین درباره قتل به پلیس ارسال کرده، نگرانی پژوهشگران را درباره پیشرفت سریع این فناوری افزایش داده است.

به گزارش رویترز، هاسابیس در اجلاس هوش مصنوعی دوبلین گفت برای به‌کارگیری رویه‌های امنیتی مشابه آنچه در حوزه‌هایی مانند زیست‌شناسی و صنعت هسته‌ای برای حفاظت از سامانه‌های حیاتی استفاده می‌شود، هنوز «کارهای زیادی باید انجام شود». او همچنین گفت در نهایت به نوعی نهاد بین‌المللی برای تدوین استانداردها نیاز خواهد بود.

هاسابیس که دانشمند ارشد شرکت آلفابت، شرکت مادر گوگل، نیز محسوب می‌شود، تأکید کرد حملات فعلی زنگ خطر هستند؛ زیرا سامانه‌های هوش مصنوعی هنوز آن‌قدر توان ندارند که حوادث ناشی از آن‌ها ابعاد بسیار بزرگی پیدا کند. بااین‌حال، به گفته او، اگر شرکت‌ها، صنعت و دولت‌ها برای ایمن‌سازی این سامانه‌ها اقدامات بیشتری انجام ندهند، ممکن است سال آینده و طی چند سال بعد شاهد حوادث جدی‌تری باشیم.

تدوین قوانین برای هوش مصنوعی ضروری است «برد اسمیت»، رئیس مایکروسافت، نیز در این نشست گفت رفتارهای خارج از کنترل هوش مصنوعی، سال ۲۰۲۶ را به سالی «تأمل‌برانگیز» تبدیل کرده است. او خواستار تدوین فوری قوانین و مقررات جدید برای ایمنی هوش مصنوعی شد تا اقدامات نظارتی همگام با نوآوری پیش بروند.

اسمیت تأکید کرد هیچ فناوری یا شرکتی نباید فراتر از قانون باشد و افزود مقررات باید منطقی و متعادل باشند و نوآوری را نیز در نظر بگیرند. او همچنین گفت صنعت باید از مخالفت شدید برخی فعالانش با مقررات‌گذاری عبور کند.

هاسابیس در ادامه گفت ایجاد یک نهاد بین‌المللی برای تدوین استانداردها راهکاری بدیهی به نظر می‌رسد، اما چنین نهادی باید انعطاف‌پذیر و چابک باشد تا مانع نوآوری نشود. به گفته او، فرایند صدور گواهی‌نامه باید متناسب با خطرات موجود طراحی شود و بتوان آن را با توجه به مسیر تحولات فناوری به‌سرعت تغییر داد.