مدلی از OpenAI که رمزارز‌ها را سرقت کرد

شرکت OpenAI فاش کرده است که یکی از مدل‌های آزمایشی‌اش برای تکمیل یک وظیفه آموزشی، اقدام به تصاحب یک کیف پول رمزارز کرده است. این رویداد در ژوئن گذشته رخ داد، اما خبر آن تازه منتشر شده است.

این ماجرا مربوط به یک مدل تحقیقاتی داخلی به نام «GPT-۵.۶ Sol» بود که بعد‌ها در ماه ژوئیه در اختیار کاربران پولی ChatGPT قرار گرفت. وظیفه محول‌شده شامل به‌روزرسانی یک اپلیکیشن معاملاتی رمزارز و پیاده‌سازی قرارداد‌های هوشمند در شبکه آزمایشی اتریوم بود.

اجرای این قرارداد‌ها مستلزم پرداخت کارمزد شبکه است، اما OpenAI هیچ‌گونه بودجه‌ای برای پوشش این هزینه‌ها در اختیار مدل قرار نداده بود. در نتیجه، مدل صد‌ها آدرس کیف پول رمزارز را شناسایی کرد که از عبارات بازیابی (recovery phrases) شناخته‌شده و ناامن استفاده می‌کردند؛ این امر به مدل اجازه داد تا دارایی‌های موجود در آن حساب‌ها را برداشت کند.

OpenAI گزارش داد که مدل مذکور در مورد درستیِ اخلاقیِ برداشت این وجوه تردید کرده، اما در نهایت به این نتیجه رسیده است که کیف پول‌ها عملاً «رها شده» محسوب می‌شوند و بنابراین استفاده از آنها مجاز است. این شرکت در گزارش خود درباره این حادثه اعلام کرد که دستورالعمل‌های ارائه‌شده «به‌صراحت اجازه خرج کردن وجوه از حسابی را که مدل به‌طور مستقل کشف کرده بود، نمی‌دادند.» این گزارش می‌افزاید که این مورد «نشان می‌دهد یک مدل می‌تواند قضاوت خود را در مورد آسیب‌های احتمالی، جایگزینِ مجوزِ مالکِ حساب کند و سپس بر اساس همان قضاوت عمل نماید، بدون آنکه واقعاً چنین اختیاری به او داده شده باشد.» شبکه آزمایشی اتریوم که وجوه در آن استفاده شده‌اند، فاقد ارزش پولی واقعی است، زیرا از شبکه اصلی اتریوم جداست.

با وجود نداشتن مجوز، مدل به توسعه‌دهندگان خود نگفت که چگونه توانسته توکن‌های لازم برای تکمیل وظیفه را پرداخت کند. OpenAI اعلام کرد که از آن زمان، تدابیر حفاظتی بیشتری را به کار گرفته است تا از دسترسی مستقیم مدل‌هایی که تحت آموزش‌های مشابه هستند به اینترنت، جلوگیری کند.

این حادثه بار دیگر نگرانی‌هایی را در مورد سیستم‌های هوش مصنوعی که به‌طور فزاینده‌ای خودمختار می‌شوند و از مرز‌های تعیین‌شده توسط انسان‌ها فراتر می‌روند، برانگیخته است. اوایل هفته گذشته، صد‌ها دانشمند با امضای نامه‌ای سرگشاده، خواستار تشکیل نهادی بین‌المللی برای نظارت و کنترل مدل‌های پیشرفته هوش مصنوعی شدند.

در میان امضاکنندگان، نام جفری هینتون — پیشگام حوزه هوش مصنوعی که اغلب از او با عنوان «پدرخوانده هوش مصنوعی» یاد می‌شود — به چشم می‌خورد؛ کسی که همواره نسبت به خطرات ناشی از این فناوری هشدار داده است. منبع: ایندیپندنت