آنتروپیک، شرکت فعال در حوزه هوش مصنوعی، از شناسایی و متوقف کردن چندین تلاش سوءاستفاده از مدلهای خود طی هشت ماه گذشته خبر داد. بر اساس گزارش سیتنا، یکی از این تلاشها به گروهی مرتبط با روسیه نسبت داده شده و هدف آن حمایت از فعالیتهای سایبری علیه بخشهایی در اوکراین بوده است. این عملیات از تکنیکهای فیشینگ و دور زدن برخی از سازوکارهای دفاعی استفاده کرده است.
علاوه بر این، آنتروپیک اعلام کرد که چندین گروه مستقر در چین نیز در تلاش بودهاند با ایجاد تعاملات گسترده، قابلیتهای مدل این شرکت را استخراج کنند. یکی از این موارد شامل بیش از ۱۵۱ میلیون تعامل با مدل آنتروپیک بوده است.
این شرکت همچنین به استفاده از مدلهای هوش مصنوعی در توسعه نرمافزارهای مرتبط با تسلیحات و پشتیبانی از فعالیتهای اطلاعاتی و تدارکاتی اشاره کرد. آنتروپیک هشدار داده است که گسترش این نوع کاربردها میتواند سرعت و خودکارسازی حملات سایبری را افزایش دهد و هوش مصنوعی را به یکی از عناصر کلیدی در زنجیره حملات سایبری تبدیل کند.
