**نگرانیهای روزافزون از هوش مصنوعی؛ تشابه به روزهای ابتدایی بحران کرونا**
به گزارش خبرآنلاین، یوشوا بنجیو، دانشمند علوم کامپیوتر کانادایی و استاد دانشگاه مونترال، در مصاحبهای با گاردین وضعیت فعلی را به روزهای آغازین شیوع کرونا تشبیه کرد. وی بیان کرد که همانطور که دولتها به سرعت واکنش نشان دادند، نگرانیهای عمومی در مورد هوش مصنوعی نیز میتواند به تدابیر جدیتری از سوی دولتمردان منجر شود.
**علل افزایش نگرانیها درباره هوش مصنوعی**
اخیراً چندین رخداد، بحث درباره امنیت مدلهای پیشرفته هوش مصنوعی را دوباره به مرکز توجهات آورده است. گاردین به مواردی پرداخته که در آنها عوامل هوش مصنوعی شرکتهایی مثل OpenAI و آنتروپیک، فعالیتهای بدون مجوزی مانند تلاش برای هک سیستمها، استفاده از هویت جعلی و دستکاری وبسایتها را انجام دادهاند.
در این راستا، ۴۲ عضو و عضو خارجی انجمن سلطنتی بریتانیا با ارسال نامهای، نسبت به سرعت پیشرفتهای هوش مصنوعی ابراز نگرانی کرده و از دولت و رسانهها خواستند تا به خطرات محتمل توجه بیشتری داشته باشند.
بنجیو نیز بهعنوان یکی از پژوهشگران، نسبت به خطرات سیستمهای مستقل و قدرتمند هشدار داده است، اما با این حال اظهار کرده که دیدگاه عموم به این مقوله بهطور فزایندهای معطوف شده است.
**راهکارهای بنجیو برای افزایش ایمنی**
بنجیو در حال حاضر مشغول کار بر روی سازمان غیرانتفاعی LawZero است که هدف آن توسعه روشهایی برای ایمنسازی سیستمهای هوش مصنوعی است. یکی از پروژههای این سازمان، Scientific AI، بهعنوان لایهای حفاظتی در کنار عوامل هوش مصنوعی عمل کرده و قادر به شناسایی رفتارهای نامناسبی مانند فریب یا جلوگیری از خاموش شدن سیستم است. همچنین، دولتهای کانادا و آلمان حمایت مالی تا سقف ۳۰۰ میلیون دلار کانادا برای این ابتکار اعلام کردهاند.
با این حال، در مورد سرعت قانونیسازی، نظرات متفاوتی وجود دارد. برخی منتقدان بر این باورند که درخواست شرکتهای فناوری بزرگ برای مقررات جدید ممکن است برای رقبای کوچکتر مانع ایجاد کند. مگر اینکه بنجیو این استدلال را رد کرده و اظهار کند که کند شدن توسعه هوش مصنوعی نیز برای شرکتهای بزرگ به هزینههای مالی قابل توجهی منجر خواهد شد.
گرچه وقوع یک “بحران هوش مصنوعی” هنوز قطعی نیست، اما اختلاف نظرها درباره مدیریت خطرات این فناوری و سرعت اجرای مقررات بهطور روزافزونی افزایش یافته است.
