به نقل از خبردونی و بر اساس اطلاعات منتشر شده توسط هوشیو، توسعهدهندگان یک شرکت مشهور در زمینه هوش مصنوعی اعلام کردند مدل جدید این شرکت به سطحی از توانمندی رسیده است که احتمال عرضه عمومی آن میتواند به امنیت زیرساختهای جهانی و حریم خصوصی کاربران آسیبهای جدی وارد کند.
### نفوذ به سیستمها؛ دغدغهای جدید با یک دستور ساده
توسعهدهندگان و کارشناسان آنتروپیک هشدار میدهند که مدل جدید که هنوز نام رسمی آن منتشر نشده، میتواند تنها با دریافت دستورات متنی ساده، سیستمهای بزرگ را مورد اکسپلویت قرار دهد و به مرورگرهای وب نفوذ کند. برخلاف مدلهای قبلی که با محدودیتهای اخلاقی و امنیتی مانع از سوءاستفاده بودند، این هوش مصنوعی جدید قابلیتهای بالایی در شناسایی حفرههای امنیتی Zero-day و اجرای حملات سایبری پیچیده دارد.
### اهمیت این موضوع چیست؟
– **تهدید امنیت ملی:** این مدل جدید میتواند به ابزار هکرهای کلاه سیاه تبدیل شود و زیرساختهای حساس را تهدید کند.
– **اعتراف سازندگان:** برای اولین بار یکی از غولهای هوش مصنوعی محصول خود را به دلیل «قدرت تخریبی» بالای آن متوقف کرده است.
– **فشار بر رقبا:** اقدام شرکت آنتروپیک دوباره بحثهای اخلاقی مرتبط با ایمنی هوش مصنوعی و مسائل اقتصادی را در صنعت داغ کرده است.
### پیچیدگیهای اخلاقی در سال ۱۴۰۵
تصمیم آنتروپیک نشاندهنده تغییر بزرگ در دره سیلیکون است؛ جایی که پیش از این شعار «سریع حرکت کن و همه چیز را بشکن» غالب بود، اما حالا نگرانیها در مورد توسعه «ابر هوش مصنوعی غیرقابل کنترل» موجب شده تا تامین امنیت در اولویت قرار گیرد. حال این سوال پیش میآید که اگر آنتروپیک این مدل را مختص خود نگه دارد، آیا سایر رقبا نیز مایل به اتخاذ این رویکرد خواهند بود؟
