OpenAI با شکایت ۸ ایالت آمریکا درباره ایمنی ChatGPT برای کودکان مواجه شد

جریمه‌های ۵۰٬۰۰۰ دلاری به ازای هر تخلف و الزام به تءیید سن کاربران، تنها بخشی از مطالبات سنگین دادستان‌ها در این پرونده قضایی است. شرکت OpenAI با یک حمله حقوقی جدید از سوی هشت ایالت آمریکا روبه‌رو شده است.

دادستان‌های کل این ایالت‌ها ادعا می‌کنند که ChatGPT برخی از کاربران، از جمله نوجوانان را به آسیب‌رساندن به خود یا دیگران تشویق کرده است. گروهی دوحزبی از دادستان‌های کل روز چهارشنبه دادخواست‌های جداگانه‌ای را به ثبت رساندند و OpenAI را متهم کردند که مصرف‌کنندگان را درباره ایمنی فریب داده و چت‌بات خود، یعنی ChatGPT را به‌گونه‌ای طراحی کرده است که پیش از تقویت توهمات یا تسهیل رفتارهای خطرناک، اعتماد کاربر را جلب کند.

ایالت‌های آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی همچنین OpenAI را به گمراه کردن مصرف‌کنندگان درباره ایمنی ChatGPT متهم کردند و خواستار طیف وسیعی از محدودیت‌ها، از محدود کردن آزمایش مدل‌های پیشرفته گرفته تا حذف داده‌های کاربران شدند. در ادامه، آنچه هر ایالت به‌عنوان راهکار جبرانی مطالبه می‌کند، آورده شده است.

ادعای ایالت‌های آمریکا علیه OpenAI «کریس مِیز»، دادستان کل آریزونا، ادعا می‌کند که OpenAI برای جلب اعتماد کاربر و جمع‌آوری داده‌های شخصی، از موافقت بیش‌ازحد و همدلی شبیه‌سازی‌شده استفاده کرده است. او می‌گوید: «OpenAI محصولی را برای جذب کاربران جوان و درگیر نگه داشتن آنها برای طولانی‌ترین زمان ممکن طراحی کرده است تا بتواند داده‌های شخصی گسترده آنها را برای منافع تجاری شرکت به دست آورد.

OpenAI با عدم اجرای تدابیر حفاظتی کافی برای کاربران یا اقدامات شفاف‌ساز، امنیت مردم آریزونا را به خطر انداخته است.» براساس شکایت این ایالت، آریزونا به دنبال جریمه‌هایی تا سقف ۱۰ هزار دلار برای هر تخلف عمدی است. این ایالت همچنین می‌خواهد OpenAI را از استقرار یا آزمایش مدل‌های پیشرفته در خارج از یک محیط امن و تأییدشده توسط نهادهای مستقل منع کند و گزارش فوری حوادثی را که در آن مدل‌ها از کنترل خارج می‌شوند یا بدون مجوز به سیستم‌ها دسترسی پیدا می‌کنند، الزامی کند.

«تیم گریفین»، دادستان کل آرکانزاس نیز ادعا کرده که OpenAI خطرات شناخته‌شده را پنهان کرده است؛ درحالی‌که به مصرف‌کنندگان اطمینان می‌داد ChatGPT ایمن است و همچنین اطلاعات شخصی نوجوانان را به‌طور غیرقانونی جمع‌آوری کرده است. گریفین در بیانیه‌ای گفت: «OpenAI به ما اطمینان می‌دهد که ChatGPT ایمن است.

پیامدهای این اطمینان، از دست رفتن جان‌ها و آسیب دیدن افراد است.» این ایالت به دنبال جریمه‌های مالی و حکم قضایی برای منع جمع‌آوری داده‌ها از نوجوانان است. آرکانزاس همچنین می‌خواهد آزمایش‌های بیشتر روی هوش مصنوعی پیشرفته و ساخت مدل‌هایی با قابلیت خودبهبودی بازگشتی (فرایندی که در آن سیستم هوش مصنوعی بدون دخالت انسان، کدها و الگوریتم‌های خود را به‌طور مداوم ارتقا می‌دهد) را تا زمان ایجاد تدابیر حفاظتی کافی متوقف کند.

«رائول لابرادور»، دادستان کل آیداهو، ادعا می‌کند که OpenAI مصرف‌کنندگان را درباره ایمنی ChatGPT گمراه کرده و هم‌زمان باعث تشویق به خودآزاری و خشونت، تقویت توهمات و ارائه توصیه‌های پزشکی خطرناک شده است. آیداهو در شکایت خود به دنبال جریمه ۵٬۰۰۰ دلاری برای هر تخلف در زمینه حفاظت از مصرف‌کننده و تدابیر حفاظتی با دستور دادگاه، از جمله تأیید سن و محدودیت بر ویژگی‌های مضر یا اعتیادآور است.

سایر ایالت‌های شاکی نیز ادعاهای مشابهی را درباره فریب کاربران پیرامون ایمنی ChatGPT مطرح کرده و خواستار جریمه‌های نقدی سنگین و محدودیت‌های سخت‌گیرانه شده‌اند. ایالت‌های آیووا و مونتانا علاوه‌بر درخواست توقف یا محدودسازی آزمایش مدل‌های پیشرفته به محیط‌های امن و تأییدشده، بر خطرات ایجنت‌های هوش مصنوعی خودمختار نیز دست گذاشته‌اند؛ به‌طوری‌که مونتانا خواستار گزارش فوری در صورت سرکش شدن و خروج دوباره این مدل‌ها از کنترل شده و به همراه آیووا و ویرجینیای غربی، حذف کامل داده‌های جمع‌آوری‌شده از شهروندان و کودکان را مطالبه کرده است.

در بخش جریمه‌های مالی نیز آیووا به دنبال جریمه تا سقف ۴۰ هزار دلار برای هر تخلف (به‌علاوه ۵ هزار دلار برای تخلف علیه سالمندان بالای ۶۰ سال) و مونتانا خواهان جریمه ۱۰ هزار دلاری برای تخلفات مصرف‌کننده و ۷٬۵۰۰ دلاری برای نقض حریم خصوصی است. در همین حال، ایالت‌های کانزاس، نبراسکا و ویرجینیای غربی تمرکز ویژه‌ای بر طراحی اعتیادآور، استفاده وسواس‌گونه و ایجاد وابستگی عاطفی در کودکان داشته‌اند.

کانزاس در کنار درخواست استرداد وجوه کاربران، خواستار جریمه ۱۰ تا ۲۰ هزار دلاری برای هر تخلف شده و نبراسکا نیز سنگین‌ترین جریمه را تا سقف ۵۰ هزار دلار برای نقض قوانین طراحی متناسب با سن (و ۲ هزار دلار برای شیوه‌های تجاری فریبنده) به همراه ابزارهای آسان برای محدود کردن زمان استفاده مطالبه کرده است. ایالت ویرجینیای غربی هم ضمن درخواست جریمه ۵ هزار دلاری برای تخلفات مکرر، خواستار اعمال محدودیت‌های پیش‌فرض برای طول نشست‌ها و استفاده شبانه کودکان، کنترل‌های والدین، تأیید سن، پروتکل‌های اجباری مدیریت بحران و تأمین بودجه آموزش ایمنی دیجیتال در مدارس دولتی توسط OpenAI شده است.