به گزارش خبردونی و با استناد به گزارش دیجیاتو، OpenAI اخیراً اعلام کرده است که ابزارهای هوش مصنوعی، به ویژه مرورگر ChatGPT Atlas، همواره در معرض تهدید حملات تزریق پرامپت هستند. این خطر بهویژه در شرایطی که امنیت این مرورگر به صورت مستمر بهبود یافته است، همچنان پایدار باقی میماند.
حملات تزریق پرامپت به معنای دستکاری هوش مصنوعی برای اجرای دستورات مخرب است که معمولاً در مکانهایی مانند صفحات وب یا ایمیلها پنهان میشوند. OpenAI در پست وبلاگی جدید خود بیان کرده است که این گونه تهدیدات مشابه کلاهبرداریها و مهندسی اجتماعی بهطور کامل برطرف نخواهند شد. فعالسازی حالت Agent Mode در ChatGPT Atlas نیز میتواند سطح تهدیدات امنیتی را افزایش دهد.
مرورگر ChatGPT Atlas در اکتبر سال جاری راهاندازی شد و بلافاصله محققان امنیتی نشان دادند که حتی نوشتن چند کلمه در Google Docs میتواند بر رفتار این مرورگر تأثیر بگذارد. علاوه بر این، شرکت Brave نیز بهعنوان یک هشدار پیشگیرانه اعلام کرد که تزریق پرامپت غیرمستقیم، چالشی اساسی برای مرورگرهای هوش مصنوعی محسوب میشود. مرکز امنیت سایبری بریتانیا هشدار داد که این نوع حملات ممکن است هرگز کاملاً کاهش نیابند و وبسایتها را در معرض خطر نشت داده قرار دهند.
OpenAI به عنوان یک چالش امنیتی جدی روی این موضوع تأکید کرده و بر لزوم تقویت مداوم سیستمهای دفاعی تأکید دارد. استراتژی آن شامل یک سیستم پاسخ سریع و پیشگیرانه است که به شناسایی حملات سایبری جدید قبل از وقوع کمک میکند. یکی از ابزارهای این شرکت شامل مهاجمی خودکار است که با یادگیری تقویتی طراحی شده و به شبیهسازی حملات پرداخته، واکنشهای احتمالی را مورد بررسی قرار میدهد.
علاوه بر این، OpenAI به کاربران توصیه میکند دستورات روشنی به عاملهای هوش مصنوعی ارائه دهند و دسترسی به ایمیل یا اطلاعات حساس را محدود کنند. به رغم دشواریهای موجود در جلوگیری از حملات تزریق پرامپت، OpenAI با بهروزرسانیهای سریع و آزمایشهای مداوم تلاش میکند امنیت سیستمهای خود را پیش از وقوع حملات واقعی بهبود بخشد. تحلیلگران میگویند که مرورگرهای مبتنی بر هوش مصنوعی هنوز نتوانستهاند ارزش کافی برای جبران ریسک دسترسی به دادههای حساس ایجاد کنند و دستیابی به تعادل میان مزایا و معایب همچنان چالشی بزرگ است.
