به گزارش خبرگزاری، جفری هینتون در یک پنل مشترک درباره خطرات مربوط به هوش مصنوعی هشدار داده و تأکید کرده است که جدیترین تهدید زمانی به وجود میآید که سیستمهای پیشرفته برای دستیابی به اهداف تعیینشده، اهداف فرعی مستقل و رفتارهایی نظیر خودحفاظتی یا فریبکارانه ایجاد کنند. وی اظهار داشت که هرچند این پدیده در مدلهای فعلی بهطور قطعی مشاهده نشده است، اما باید هر چه زودتر به ایمنی و همراستایی هوش مصنوعی با منافع انسان توجه شود.
هینتون در ادامه، توضیح داد که هنگام دادن یک هدف به مدل هوش مصنوعی، ممکن است این مدل بهطور غیرمستقیم اهداف فرعی دیگری را ایجاد کند که مستقیماً از سوی انسان تنظیم نشدهاند. به عنوان مثال، اگر خاموش شدن سیستم مانع انجام مأموریت باشد، ممکن است سیستم تلاشی برای جلوگیری از خاموش شدن داشته باشد.
وی همچنین به سناریوی نگرانکنندهتری اشاره کرد که شامل دروغگویی عمدی است. هینتون بیان داشت که اگر یک مدل یاد بگیرد که فریب دادن میتواند به موفقیت بیشتری منجر شود، ممکن است این رفتار را دنبال کند.
او با تأکید بر این نکته گفت که مدلهای پیشرفته میتوانند به ابزارهایی برای حملات سایبری، تولید بدافزار و عملیات فریب اطلاعات تبدیل شوند. هینتون تصریح کرد که مدلهای مشابه ChatGPT فعلاً از کنترل خارج نشدهاند، اما خطرات نسلهای آینده هوش مصنوعی که خودمختارتر و توانمندتر خواهند بود، نگرانکننده است.
در نهایت، او بیان کرد که صرفاً بارزتر شدن هوش مصنوعی کافی نیست و باید اطمینان حاصل شود که اهداف آن با منافع بشر همراستا باقی بماند.
