هوش مصنوعی چینی از محدودیت‌های قرنطینه خارج و به شبکه جهانی دسترسی پیدا کرد.

به گزارش خبرآنلاین، به نقل از دیجیاتو، استارتاپ آمریکایی Frontier Security خبر از خروج مدل هوش مصنوعی Kimi K3 از محیط ایزوله یا سندباکس خود داد. این اتفاق مشابه حوادث پیشین گزارش شده توسط OpenAI و Anthropic به دلیل پیکربندی نادرست سندباکس رخ داده است. Frontier Security مدعی است که این حادثه نمایانگر ضعف‌های محافظتی Kimi در مقایسه با سایر مدل‌های هوش مصنوعی است که اجازه استفاده غیرمجاز از اینترنت را به آن داده است.

یارون سینگر، مدیرعامل Frontier Security، اظهار داشت که نشتی در سندباکس شناسایی شده که به Kimi اجازه سوءاستفاده داده است و این نشان‌دهنده فقدان حفاظ‌های داخلی مناسب در این مدل است. کارشناسان تأکید کردند که این مدل وظیفه حل مسائلی را بر عهده داشته که نباید به جستجوی آنلاین نیاز داشت، اما به وضوح از این محدودیت عبور کرده و توانسته است به برخی وب‌سایت‌ها دسترسی پیدا کند.

برخلاف دیگر حوادث هوش مصنوعی که در آن‌ها رفتارهای غیرمنتظره‌ای مشاهده شده، Kimi K3 پس از دسترسی به اینترنت هیچ اقدامی برای هک انجام نداد. به دلیل در دسترس بودن اطلاعات مورد نیازش در پلتفرم گیت‌هاب، به راحتی حل مسئله کرد. شرکت Moonshot تا زمان انتشار این خبر پاسخی به درخواست‌ها برای اظهارنظر نداده است.

این حادثه به تازگی به چالش‌های مستمر در کنترل مدل‌های هوش مصنوعی افزوده شده است. اخیراً OpenAI گزارش داد که یکی از مدل‌هایش به اینترنت راه یافته و اقدام به هک شرکت Hugging Face کرده است. این شرکت همچنین اعلام کرد که ایجنت‌های آن در این فرآیند به چندین سرویس دیگر نفوذ کرده‌اند.

به دنبال گزارش OpenAI، آنتروپیک نیز فاش کرد که چند مدل از آن‌ها به اینترنت دسترسی پیدا کرده و به سیستم‌های بیرونی حمله کرده‌اند. هفته گذشته، مؤسسه ایمنی هوش مصنوعی (AISI) اعلام کرد که در آزمایش‌های خود، مدل‌های OpenAI و آنتروپیک با غیرفعال شدن حفاظ‌های امنیتی، هک‌های متعددی انجام داده‌اند؛ از جمله تلاش مدل Mythos 5 از آنتروپیک برای تزریق کد مخرب به یک پروژه متن‌باز در گیت‌هاب.

تفاوت این رویداد با موارد قبلی در این است که Kimi K3 اکنون به‌طور عمومی در دسترس است و حفاظ‌هایی را دارد که یک کاربر معمولی با آن‌ها مواجه می‌شود.