به گزارش خبرآنلاین، دولت به تازگی چارچوبی را برای ارزیابی خطرات بالقوه مدلهای هوش مصنوعی قدرتمند معرفی کرده است. این چارچوب بهویژه بر روی توانایی این مدلها در تسهیل حملات سایبری تمرکز دارد. جزئیات فنی این آزمایشها هنوز منتشر نشده، اما مقامات دولتی تأیید کردهاند که برنامهریزیها نهایی شدهاند.
افزایش حساسیتها در این زمینه به واسطه نتایج آزمایشهای اخیر است. دو شرکت بزرگ در حوزه هوش مصنوعی، OpenAI و Anthropic، در گزارشهای خود نشان دادهاند که مدلهای پیشرفته در محیطهای کنترلشده میتوانند رفتارهایی نظیر تلاش برای دسترسی به سامانههای دیگر یا انجام وظایف پیچیده امنیتی را از خود بروز دهند. این نتایج نگرانیهایی را در خصوص احتمال سوءاستفاده از این مدلها به وجود آورده است.
اما کارشناسان بر این نکته تأکید دارند که این موارد به معنای «خارج شدن هوش مصنوعی از کنترل» نیست. آزمایشها تحت شرایط شبیهسازیشده و با نظارت پژوهشگران انجام شده و هیچ شواهدی از سرکشی واقعی ChatGPT یا مدلهای مشابه در دنیای واقعی وجود ندارد.
طبق گزارش «ایندیپندنت»، این آزمونها در حال حاضر به صورت داوطلبانه برگزار میشوند و شرکتها هیچ الزام قانونی برای ارائه مدلهای خود به دولت ندارند. با این حال، این اقدام نشاندهنده تلاشهای فزاینده واشنگتن برای ایجاد سازوکارهایی جهت ارزیابی مدلهای پیشرفته است.
در حال حاضر محور اصلی بحث این نیست که آیا هوش مصنوعی کنترل جهان را در اختیار دارد یا نه، بلکه تأکید بر این است که چگونه میتوان خطرات امنیتی و سایبری این مدلهای پیشرفته را بهطور مستقل و استاندارد ارزیابی نمود.
