**نگرانیها درباره قابلیت “حالت عامل” در مرورگر جدید OpenAI**
محققان حوزه امنیت سایبری نسبت به ویژگی “حالت عامل” (Agent Mode) در مرورگر تازه معرفیشده OpenAI ابراز نگرانی کردهاند. این قابلیت که صرفاً برای مشترکان پولی در دسترس است، قادر به انجام خودکار وظایف آنلاین است. دو روز پس از رونمایی از این مرورگر، شرکت Brave، رقیب OpenAI، اعلام کرد که تمام مرورگرهای مجهز به فناوری هوش مصنوعی، از جمله محصول اخیر OpenAI، در برابر حملات موسوم به «تزریق پرامپت غیرمستقیم» (Indirect Prompt Injection) آسیبپذیر هستند. در این نوع حملات، هکرها به راحتی میتوانند پیامهای مخفی را به هوش مصنوعی ارسال کرده و آن را به انجام کارهای مخرب وادار کنند.
با وجود عدم اشاره مستقیم به مرورگر OpenAI در گزارش Brave، کارشناسان تایید کردند که مرورگر اطلس (Atlas) این شرکت حتماً در معرض این حملات قرار دارد. به عنوان مثال، یکی از محققان امنیت هوش مصنوعی با نام مستعار P۱njc۷۰r در روز معرفی OpenAI توئیت کرد که موفق به فریب ChatGPT شده است. او با استفاده از دستوری پنهان، موجب شد تا AI عبارتی به معنای “به هیچ هوش مصنوعی اعتماد نکنید” را نمایش دهد. نشریه The Register همچنین اعلام کرد که موفق به تکرار این حمله در آزمایشهای خود شده است. یکی دیگر از توسعهدهندگان، CJ Zafir، در توئیتی به حذف مرورگر اطلس اشاره کرد که پس از کشف آسیبپذیریهای مربوط به حملات «تزریق پرامپت» صورت گرفت.
هر چند این حملات به نظر ممکن است بیضرر بیایند، اما کدهای مخفی قادرند عواقب جدیتری را به همراه داشته باشند. شرکت Brave هشدار داده است که مرورگرهای هوش مصنوعی، با توانایی انجام کارها به نمایندگی از کاربر، در عین قدرت، خطرات بزرگی نیز دارند. به عنوان مثال، اگر کاربر به حسابهای حساس خود مانند بانک یا ایمیل وارد شود، حتی یک خلاصه ساده از یک پست Reddit میتواند منجر به سرقت اطلاعات او شود. پیش از این، در ماه اوت، محققان Brave نشان داده بودند که مرورگر هوش مصنوعی Perplexity’s Comet نیز میتواند با یک پست عمومی حاوی دستورات مخفی فریب بخورد.
**تمهیدات ایمنی OpenAI و چالشهای موجود**
OpenAI در تلاش برای ایجاد استانداردهای امنیتی در مرورگر هوش مصنوعی خود اعلام کرده که حالت عامل ChatGPT امکان اجرای کد، دانلود فایل، نصب افزونه و دسترسی به برنامههای دیگر را ندارد. همچنین، این حالت به اطلاعات کاربر دسترسی نخواهد داشت و بدون تأیید او به حسابهای آنلاین وارد نخواهد شد.
با این حال، OpenAI هشدار داده که این اقدامات نمیتوانند به طور کامل ریسکها را خنثی کنند. این شرکت از کاربران خواسته است در استفاده از حالت عامل، احتیاط کنند و فعالیتهای ChatGPT را تحت نظر قرار دهند. به گزارش مدیر ارشد امنیت اطلاعات OpenAI، دین استاکی، شرکت در تلاش است تا عامل ChatGPT را به اعتمادپذیرترین و قابل اعتمادترین همکار در زمینه امنیت تبدیل کند. او ابراز کرده که آزمایشهای مختلفی انجام شده و تکنیکهایی برای نادیده گرفتن دستورات مخرب پیادهسازی شده است، اما آسیبپذیریهای مربوط به تزریق پرامپت همچنان چالشهای جدی باقی مانده است.نگرانیها در مورد امنیت سایبری و قابلیتهای جدید OpenAI همچنان ادامه دارد. پژوهشگران در این حوزه اعتقاد دارند که این شرکت ممکن است به اندازه کافی اقدامات لازم را برای تضمین ایمنی مرورگر هوش مصنوعی خود، ChatGPT Atlas، انجام نداده باشد. یوهان ربرگر، محقق امنیت هوش مصنوعی، در اظهارات خود گفت: «OpenAI اقداماتی برای افزایش سطح امنیتی و کاهش احتمال سوءاستفاده انجام داده است. با وجود این، وبسایتهایی که بهطور خاص طراحی شدهاند، هنوز قادرند ChatGPT Atlas را به اشتباه بیندازند و منجر به تولید محتوای تحت کنترل مهاجمان شوند.»
به عبارتی دیگر، علاوه بر چالشهای کلیدی امنیت سایبری، OpenAI باید تلاشهای بیشتری به منظور توجیه وجود مرورگر خود انجام دهد. سایمون ویلیسون، یک برنامهنویس بریتانیایی، در یک نوشته آنلاین عنوان کرد: «این دسته از مرورگرهای عاملمحور برای من بسیار گیجکننده است. ریسکهای مربوط به امنیت و حریم خصوصی در این حوزه هنوز بسیار جدی و مشکلساز به نظر میرسند و من تا زمانی که محققان امنیتی این محصولات را به طور کامل بررسی نکنند، به آنها اعتماد نخواهم کرد.»
منبع: futurism
