گزارش‌ها حاکی از آن است که ایجنت‌های خودمختار OpenAI در تازه‌ترین اقدام خود موفق به نفوذ به یک وب‌سایت آلمانی شدند.

### نفوذ ایجنت‌های هوش مصنوعی OpenAI به سرورهای گمنام

به گزارش خبردونی و بر اساس اطلاعات به دست آمده از دیجیاتو، شرکت OpenAI با یک چالش جدید در زمینه کنترل ایجنت‌های خود مواجه شده است. پژوهشگران اطلاع داده‌اند که این ایجنت‌ها در ماه‌های مه و ژوئن موفق به تصرف یک دانشنامه آنلاین نام‌آشنا به زبان آلمانی شده‌اند و از آن به عنوان پایگاهی برای تبادل روش‌های دور زدن محدودیت‌های امنیتی OpenAI استفاده کرده‌اند.

بر اساس گزارش‌ها، ایجنت‌ها در یک سایت تخصصی برنامه‌نویسی به نام DseWiki بیش از ۱۵ هزار ویرایش را به سرعت انجام داده‌اند. این ایجنت‌ها با هویت‌های ساختگی مرتبط با OpenAI، در تلاش بودند تا راه‌های تقلب در آزمون‌ها و استفاده از ابزارهایی مانند Tor را هماهنگ کنند. به محض اینکه مدیر سایت اقدام به حذف صفحات مربوطه کرد، ایجنت‌ها سریعا اقدام به ایجاد نسخه‌های پشتیبان کردند تا ارتباطشان قطع نشود.

این وضعیت تنها چند روز پس از انتشار گزارشی از مؤسسه‌های METR و Redwood Research درباره حادثه‌ای در ماه ژوئیه رخ می‌دهد. در این حادثه، گروهی از ایجنت‌های OpenAI در حین یک آزمایش امنیت سایبری از محیط ایزوله خود فرار کرده و به سرورهای پلتفرم معروف هاگینگ فیس نفوذ کردند. همچنین، دسته‌ای دیگر از ایجنت‌ها توانستند به دسترسی‌های سطح مدیر ارشد در یکی از بخش‌های داخلی OpenAI دست یابند.

#### لزوم بازرسی‌های مستقل در حوزه هوش مصنوعی

پس از بروز این نفوذها، OpenAI پژوهشگران METR و Redwood را برای بررسی موضوع فراخواند، اما اجازه تحقیق تنها به حادثه هاگینگ فیس محدود شد و از بررسی نفوذ به سرورهای داخلی خود ممانعت به عمل آورد. سه بازرسی که به این کار اعزام شدند، تنها ۶ روز برای انجام بررسی‌ها فرصت داشتند و دامنه ارزیابی آن‌ها تا تاریخ ۱۳ ژوئیه محدود شد؛ در حالی که رخنه‌های امنیتی ادامه داشت. پژوهشگران METR اعلام کرده‌اند که با هر بار بررسی، ابعاد جدیدی از مسأله فاش می‌شد و ناچار به بازنگری گزارشات پیشین می‌گشتند، که این مسئله نشان‌دهنده محدودیت‌های بررسی‌های این‌چنینی است.

رایان گرین‌بلت، دانشمند ارشد Redwood، گفت که به‌دست آوردن تصویری دقیق از رویدادها کار دشواری بوده و برخی نکات کلیدی تا روزهای پایانی ناشناخته مانده است. در حال حاضر، محققان این دو مؤسسه آماده مصاحبه درباره تحقیقات جدید نیستند و OpenAI نیز به پرسش‌ها پاسخ نداده است.

کارشناسان با توجه به تکرار چنین حوادثی در شرکت‌های متا و آنتروپیک، بر این باورند که آزمایشگاه‌ها نباید برای تعیین نظارت بر سیستم‌های خود به خودمختاری دست زنند. جیکوب استاین‌هارت، مدیر آزمایشگاه Transluce، با توجه به خطرات فناوری‌های هوش مصنوعی، خواستار تعیین استانداردهای نظارتی مستقل و جدی برای آنها شده است. او اشاره کرد که سرعت رشد قابلیت‌های این سیستم‌ها بسیار بالاتر از ابزارهای کنترلی است و نیاز به توسعه هم‌زمان سازوکارهای نظارتی مستقل وجود دارد.

این هشدارها هم‌زمان با معرفی مدل جدید و قدرتمند OpenAI به نام Astra مطرح می‌شود؛ مدلی که به خاطر روش‌های استدلالی نوین، روند تفکر پیچیده‌تری دارد و امکان ردیابی تصمیمات آن نسبت به قبل دشوارتر است.