### هشدار مدیرعامل آنتروپیک درباره سرعت پیشرفتهای هوش مصنوعی
مدیرعامل شرکت آنتروپیک در یک پست وبلاگی اعلام کرده است که نیاز به مهار سرعت ارتقاء قابلیتهای هوش مصنوعی احساس میشود. او تأکید کرد که در حالی که پیشرفتها به نظر سریع میرسد، باید از زمانهای بهدستآمده بهطور هوشمندانه بهرهبرداری شود.
به گفته این مدیر، دو عامل اصلی در این تصمیم تأثیرگذار بودهاند: توانایی هوش مصنوعی برای ارتقاء خود و حادثه امنیتی اخیر میان OpenAI و هاگینگفیس، که در آن تعدادی از ایجنتهای هوش مصنوعی بهصورت گروهی برای نفوذ به یک وبسایت اقدام کردند.
آمودی تأکید کرد که کاهش سرعت به معنای توقف آموزش مدلها یا پیشرفت فنی نیست، بلکه هدف اطمینان از زمان کافی برای همگامسازی و ایمنسازی مدلهاست. همچنین، ارزیابهای مستقل باید بتوانند این موارد را تأیید کنند. نگرانیها درباره خطرات بالقوه هوش مصنوعی بهویژه پس از استعفای یکی از پژوهشگران آنتروپیک به خاطر انتقادات از رفتارهای غیرمسئولانه شرکت، به موضوعی داغ در رسانهها تبدیل شده است.
پس از انتشار این یادداشت، ایلان ماسک نیز از موضع آمودی حمایت کرد و سم آلتمن به آن واکنش نشان داد و با تأکید بر ضرورت مهار پیشرفتهای هوش مصنوعی، گفت که باید ارزیابهای مستقل با دسترسی مشابه کارمندان در نظر گرفته شوند. او همچنین اعلام کرد که جزئیات بیشتری بهزودی منتشر خواهد شد.
آمودی بر این باور است که اقدامهای بعدی در زمینه ایمنی نیازمند همکاریهای بینالمللی و هماهنگی درون صنعت است. او افزود که این رویکرد به رهبران فناوری آمریکا این امکان را میدهد که بدون از دست دادن مزیت رقابتی، اقدامات ایمنی لازم را انجام دهند. او همچنین بر اهمیت همکاری با چین و معافیتهای ضد انحصار در آمریکا تأکید کرد، زیرا مهار توانمندیها در غرب در صورت عدم پایبندی چین میتواند منجر به برتری ژئوپلیتیکی آن کشور شود.
در شرایطی که هوش مصنوعی به سرعت در حال رشد است، مدیران آزمایشگاههای پیشرو همواره درباره خطرات وجودی این فناوری هشدار دادهاند. با این حال، این ادعاها گاهی به عنوان ابزار بازاریابی محصولات یا تثبیت جایگاه شرکتها تلقی میشود. آمودی پیشتر اعلام کرده بود که احتمال ۲۵ درصد وجود دارد که اوضاع فناوری هوش مصنوعی به شدت بد شود.
در پی حادثه هاگینگفیس، آنتروپیک از نفوذ مدلهایش به سه سازمان خبر داد و اعلام کرد که به تازگی نفوذ چهارم نیز تأیید شده است. آمودی نگران این است که با وجود عدم بروز آسیب جدی در حال حاضر، در ۶ تا ۱۲ ماه آینده، گروهی از ایجنتهای خودمختار هوش مصنوعی ممکن است کنترل اینترنت را به دست بگیرند و خسارات میلیاردی به بار آورند.
