ایجنت‌های هوش مصنوعی به سیستم‌های یک شرکت هندی نفوذ کردند

طبق اعلام دولت هند، یک شرکت خصوصی در این کشور مورد حمله ایجنت‌های هوش مصنوعی قرار گرفته که توانسته‌اند به داده‌های محرمانه این شرکت دسترسی پیدا کنند. قربانی جدید مدل هوش مصنوعی یک شرکت هندی است سازمان امنیت سایبری هند به‌تازگی اعلام کرده است که ایجنت‌های هوش مصنوعی تحت آزمایش توانستند از محیط شبیه‌ساز خارج شوند و به سیستم‌های متصل به شبکه یک سازمان نفوذ کند.

به‌نظر می‌رسد ایجنت‌ها آسیبی به سیستم‌های هدف وارد نکرده، اما اطلاعات و داده‌های حساس را بررسی کرده‌اند. پدیده خروج ایجنت‌ها از محیط‌های آزمایشی در ماه‌های اخیر بارها در سراسر جهان گزارش شده است؛ بااین‌حال، این نخستین مورد گزارش‌شده از این نوع در هند محسوب می‌شود.

ظاهراً توسعه‌دهنده ایجنت مذکور به‌صورت داوطلبانه اطلاعات مرتبط با ایجنت هوش مصنوعی مورد اشاره در این گزارش را منتشر کرده و اذعان داشته است که این ایجنت از سطح دسترسی تعریف‌شده برای انجام وظایف خود فراتر رفته است. به گفته توسعه‌دهنده، هدف اولیه مدل تحت آزمایش صرفاً خواندن داده‌های تجاری یک شرکت هندی بوده، اما این مدل در ادامه به داده‌های دیگری، از جمله اطلاعات محرمانه، نیز دسترسی پیدا کرده است.

در گزارش منتشرشده از سوی آژانس امنیت سایبری هند، نام توسعه‌دهنده مدل هوش مصنوعی و سازمان هدف این رخداد اعلام نشده است. چند ماه قبل، OpenAI در حادثه‌ای مشابه اعلام کرده بود که مدل آزمایشی این شرکت برای هک سرویس محبوب هاگینگ‌فیس اقدام کرده است.

همچنین شرکت انتروپیک اعلام کرده که در یک سال اخیر، دست‌کم چهار مورد مشابه را تجربه کرده است. در رویدادی مشابه، مدل مربوط به OpenAI به یکی از سازمان‌های دولتی استرالیا نفوذ کرده بود؛ حادثه‌ای که در نهایت با عذرخواهی رسمی سازنده همراه شد.

بااین‌حال، مقامات استرالیا همچنان تحقیقات درباره این رخداد را ادامه می‌دهند و سازنده مدل را به اهمال‌کاری و رعایت‌نکردن الزامات امنیتی و ایمنی متهم کرده‌اند. دولت هند همچنین اعلام کرده است که هکرها از ابزارهای مبتنی‌بر هوش مصنوعی برای نفوذ به سیستم قربانیان و سرقت مالی استفاده می‌کنند.

حملاتی که پیش‌تر به چند روز و حتی چند هفته زمان نیاز داشتند، اکنون به‌لطف ابزارهای AI تنها در چند ساعت انجام می‌شوند. سیستم‌هایی که نتوانند آسیب‌پذیری‌های خود را به‌سرعت برطرف کنند، با احتمال بیشتری در معرض نفوذ مجدد قرار می‌گیرند؛ مسئله‌ای که می‌تواند زنگ خطری برای متخصصان امنیتی و تأمین‌کنندگان ابزارهای امنیت سایبری باشد.