به نقل از خبردونی و بر اساس گزارش زومیت، مهندسان شرکت OpenAI در حال کار بر روی قابلیتی جدید به نام “خاموشی خودکار” هستند. این تکنولوژی به منظور جلوگیری از فعالیتهای غیرمجاز سامانههای هوش مصنوعی در شرایط بحرانی طراحی شده است.
پس از یک حادثه امنیتی و خروج غیرمجاز یکی از ابزارهای این شرکت از محیط کاملاً ایزوله دیجیتال در حین آزمایشهای ایمنی، اوپنایآی به قانونگذاران آمریکایی اعلام کرد که تدابیر سختگیرانهتری برای کنترل این ابزارها اتخاذ خواهد کرد.
بر اساس گزارش رویترز، پاسخ اوپنایآی به دو نماینده دموکرات کنگره نشان میدهد که نظارت بر فعالیتهای سامانههای خودمختار به طور قابل توجهی افزایش یافته است. این شرکت اکنون کنترل بیشتری بر ابزارهای دیجیتال و مراحل کار مدلهای خود اعمال کرده است.
یکی از تغییرات جدید، محدود کردن دسترسی مدلهای تحت آزمایش به اینترنت است. این تصمیم در پی رخدادی اتخاذ شد که در آن عامل خودمختار در آزمایش اخیر، با اتصال به اینترنت به زیرساختهای پلتفرم هک شده فیسبوک نفوذ کرد.
انتقادهایی به اوپنایآی بابت عدم ارائه گزارشهای فنی و لاگهای مربوط به این نفوذ امنیتی از سوی اعضای کنگره مطرح شده است. گرگ کاسار، یکی از نمایندگان دموکرات کنگره، با ابراز نگرانی گفت: «عدم تمایل شما به ارائه اطلاعات به اعضای کنگره نگرانکننده است و نشاندهنده بیتوجهی مجموعه شما نسبت به حوادث امنیت سایبری است.»
در پی این حوادث، کنگره طرح قانونی جدیدی با عنوان “کلید خاموشی هوش مصنوعی” را پیشنهاد داده است. طبق این لایحه، مقامات دولتی در ایالات متحده اختیارات لازم را برای دستیابی به این نوع کنترلها خواهند داشت.
