وبسایت خبری
خبردونی

یکی از کارشناسان ایمنی اوپن‌ای‌آی از سمت خود کناره‌گیری کرد و خواستار قوانین سخت‌گیرانه‌تر برای هوش مصنوعی مشابه قوانین حاکم بر نیروگاه‌های هسته‌ای شد.

کارمند ایمنی اوپن‌ای‌آی استعفا داد: «هوش مصنوعی را مثل نیروگاه‌های هسته‌ای قانون‌مند کنید»

به گزارش خبرگزاری، موج جدیدی از کناره‌گیری متخصصان ایمنی از شرکت‌های پیشرو در حوزه هوش مصنوعی آغاز شده است. دیوید رابینسون، که مسئول تهیه گزارش‌های ایمنی در اوپن‌ای‌آی بود، اخیراً از سمت خود استعفا داد و نیت خود را برای نگارش مقاله‌ای تحلیلی درباره فرهنگ شتابزده سیلیکون ولی اعلام کرد.

رابینسون در مقاله‌ای که برای نشریه آتلانتیک منتشر کرده، به رفتار غول‌های فناوری انتقاد کرده و آن را «از اساس معیوب» نامیده است. او همچنین تصریح کرده که اعمال قوانین موقت برای مدیریت خطرات ناشی از آموزش مدل‌ها به هیچ وجه کافی نیست. به باور او، شرکت‌های مستقر در کالیفرنیا برای مدت‌ها با خوش‌بینی بیش از حد و شتاب‌زدگی عمل کرده‌اند و پیامدهای ناخواسته ناشی از سیستم‌های پیچیده را نادیده گرفته‌اند.

در ادامه، رابینسون تأکید می‌کند که توسعه‌دهندگان مدل‌های زبانی باید رویکرد فعلی خود را تغییر دهند و به استانداردهای کنونی در صنایع پرخطر نزدیک شوند. او پیشنهاد می‌دهد که آزمایشگاه‌های فناوری باید به شیوه‌ای مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌های پرترافیک سازمان‌دهی شوند؛ مراکزی که به دقت در سازماندهی و برنامه‌ریزی فعالیت می‌کنند تا خطاهای انسانی به بحران‌های جدی منجر نشود.

این استعفا بخشی از روندی گسترده‌تر است که در آن متخصصان ریسک به دلیل نگرانی از پیامدهای اجتماعی و ایمنی قصد ترک همکاری با شرکت‌های بزرگ را دارند. خروج مداوم این مهندسان نشان می‌دهد که فاصله میان اولویت‌های تجاری توسعه‌دهندگان و الزامات ایمنی در حال افزایش است و نیاز به نظارت‌های مستقل بر روند آموزش مدل‌های نسل آینده بیشتر از همیشه احساس می‌شود.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *