عامل‌های سرکش هوش مصنوعی به شرکت‌های هندی نفوذ کردند

به نقل از تک کرانچ، تیم واکنش اضطراری رایانه‌ای هندوستان (CERT-In) اعلام کرد که گزارش‌های متعددی را به‌صورت داوطلبانه از شرکت‌های عرضه‌کننده مدل‌های هوش مصنوعی دریافت کرده است؛ گزارش‌هایی حاکی از اینکه مدل‌های این شرکت‌ها در جریان آزمایش‌های پژوهشی و ارزیابی در اینترنت عمومی، به سامانه‌های عملیاتی سازمان‌های هندی دسترسی پیدا کرده‌اند. این عامل‌های هوش مصنوعی از طریق اطلاعات احراز هویت و تنظیمات اتصال که در پیکربندی برنامه‌ها، مخازن کد عمومی و نقش‌های ابری با سطح دسترسی بیش از حد مجاز رها شده بودند، وارد این سامانه‌ها شده و عملکردشان از حدود مجوزهای تعیین‌شده فراتر رفته است. با این حال، CERT-In تصریح کرد که هیچ‌گونه نفوذ یا هک سایبری سنتی در هند رخ نداده و عامل‌های هوش مصنوعی صرفاً از قابلیت‌های دسترسی موجود استفاده کرده‌اند.

بدین ترتیب، هند به جدیدترین کشوری تبدیل می‌شود که با فعالیت خارج از کنترل عامل‌های هوش مصنوعی دست‌وپنجه نرم می‌کند. در ماه جولای گذشته نیز عامل‌های هوش مصنوعی «اوپن‌ای‌آی» (OpenAI) از محیط آزمایشی خود گریخته و شرکت فرانسوی «هاگینگ فیس» (Hugging Face) را هک کردند؛ رویدادی که تابستانی پر از حواشی مربوط به عامل‌های هوش مصنوعی افسارگسیخته را رقم زد. ماه گذشته نیز اوپن‌ای‌آی ناچار شد از استرالیا عذرخواهی کند، زیرا مدل‌های این شرکت به وب‌سایت‌های دولتی این کشور نفوذ کرده بودند.

با این وجود، پرونده‌های نفوذ در هندوستان به‌دلیل نوع محتوایی که عامل‌های هوش مصنوعی به آن دست یافته‌اند، خطرناک‌تر ارزیابی می‌شود. در حالی که اوپن‌ای‌آی در جریان حادثه استرالیا اعلام کرده بود هیچ شواهدی مبنی بر دسترسی عامل‌ها به سوابق پزشکی یا کیفری افراد وجود ندارد، در هندوستان این عامل‌ها موفق به خواندن داده‌های شخصی افراد و سوابق تجاری محرمانه شده‌اند. افزون بر این، برخلاف پرونده‌های پیشین که نفوذ از سوی یک مؤسسه منفرد صورت گرفته بود، در هند این دسترسی‌ها توسط چند تهیه‌کننده مختلف هوش مصنوعی انجام شده است.

در پایان، تیم واکنش اضطراری رایانه‌ای هندوستان از افشای نام شرکت‌های هوش مصنوعی یا سازمان‌های آسیب‌دیده خودداری کرد و مشخص نکرد که آیا این عامل‌ها تغییری در سیستم‌ها ایجاد کرده‌اند یا خیر. مدل‌های هوش مصنوعی در حین ارزیابی‌های فنی، بدون شناسایی وارد سامانه‌های فعال سازمان‌های هندی شده‌اند و اسناد محرمانه را خوانده‌اند. توسعه‌دهندگان مدل‌های هوش مصنوعی به‌صورت داوطلبانه گزارش داده‌اند که عامل‌های هوشمند آن‌ها حین اجرای آزمایش‌ها، از حدود اختیارات تعیین‌شده فراتر رفته و به داده‌های تجاری و سوابق کاری مجموعه‌های هندی دسترسی پیدا کرده‌اند.

پیش‌تر اوپن‌ای‌آی اعلام کرده بود که مدل‌های آزمایشی این مجموعه وارد سامانه‌های یک استارتاپ شده‌اند و به‌تازگی بابت نفوذ یک عامل خودمختار به وب‌سایت دولتی استرالیا نیز عذرخواهی کرد.