به گزارش خبردونی، مباحث کارشناسی درباره ایمنی هوش مصنوعی در سپتامبر ۲۰۲۶ به اوج خود رسیده است. نگرانیها در مورد خطرات مرتبط با مدلهای مرزی نه تنها در میان پژوهشگران، بلکه در سطوح بالای مدیریتی و سیاسی نیز مطرح شده است. در حال حاضر، پرسش اصلی از چگونگی ایمنسازی مدلهای هوش مصنوعی به این نکته مهم تغییر یافته است که آیا باید سرعت توسعه فناوری کاهش یابد تا امکان کنترل بهتر آن فراهم شود؟
این اختلافنظر به یک شکاف قابل توجه در صنعت فناوری تبدیل شده است. داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت تغییرات در تواناییهای هوش مصنوعی شده است. همچنین، سم آلتمن و ایلان ماسک نیز با این نظر موافق هستند. در مقابل، جنسن هوانگ، مدیرعامل انویدیا، بر این باور است که هم سرعت و هم ایمنی قابل مدیریت هستند، درحالیکه دونالد ترامپ نیز نگرانیهای جدی را در برابر حفظ برتری آمریکا مطرح کرده است.
مفهوم جدیدی که جوامع علمی به آن توجه دارند، «ایمنی سرعت توسعه» است. آمودی بر این باور است که سرعت افزایش قابلیتهای مدلها ممکن است باعث شود که ارزیابیهای لازم نتوانند همگام شوند. بنابراین، او تأکید کرده که نیاز به ایجاد نوعی تنظیم در سرعت توسعه است و در این راستا پیشنهاد داده است که ارزیابان مستقل بتوانند در روند آموزش بهصورت دائمی در دسترس باشند.
این نگرانیها از احتمال توسعه «فراهوش خودبهبوددهنده» ناشی میشود. جاکوب کاکسون، پژوهشگر پیشین، و دیگر متخصصان به خطرات این مسیر اشاره کرده و ابراز نگرانی کردهاند که سرعت افزایش هوش ماشینی میتواند پیامدهای جدی داشته باشد.
از سوی دیگر، جنسن هوانگ ایمنی را یک موضوع مهندسی میداند و معتقد است که با وجود قوانین موجود و سازوکار بازار، شرکتها قادرند از ارائه محصولات ناایمن جلوگیری کنند. او همچنین بین سرعت و ایمنی تمایز قائل میشود و بر این اساس، توسعهدهندگان میتوانند با سرعت عمل کنند و در صورت لزوم توقف کنند.
این تحولات در صنعت هوش مصنوعی نشان میدهد که چگونه مباحث فنی و سیاسی به هم پیوستهاند و چالشهای پیچیدهای را خلق کردهاند که نیازمند توجه و دقت بیشتری است.### خطرات هوش مصنوعی و چالشهای ایمنی
اختلاف نظر میان کارشناسان در خصوص خطرات هوش مصنوعی به وضوح نمایان شده است. به گفته آمودی، مسئله اصلی فاصله میان سرعت توسعه قابلیتها و مکانیزمهای ایمنی است. از طرف دیگر، هوانگ بر این باور است که مهندسی خطر باید در طی روند توسعه سریع مورد توجه قرار گیرد. این دو دیدگاه نهتنها در مورد وجود خطرات متفاوتاند، بلکه در خصوص اینکه چه کسی باید درباره سرعت تصمیمگیری کند و اینکه آیا ایمنی میتواند پس از ظهور خطر تامین شود یا نه، اختلاف نظر دارند.
### هوش مصنوعی به عنوان یک مسئله امنیت ملی
ورود سیاست به روند توسعه هوش مصنوعی، این موضوع را پیچیدهتر کرده است. در اظهارات اخیر، ترامپ از حدوث نگرانیهای مربوط به انقراض انسان از طریق هوش مصنوعی ابراز بیاعتنایی کرده و نگرانی اصلی خود را رقابت با چین عنوان کرده است. این نگرش با سیاستهای رسمی دولت او در رابطه با تسریع نوآوری و حفظ رهبری آمریکا در این حوزه مطابقت دارد.
چین همچنین از زاویهای دیگر به کاهش سرعت توسعه فناوری هوش مصنوعی نگاه میکند. گوئو جیاکون، سخنگوی وزارت خارجه چین، بر اهمیت توسعه باز و فراگیر تأکید کرده و تقابل و هراسافکنی را مانعی برای حکمرانی سالم در این زمینه دانسته است. این موضوع نشاندهنده در هم تنیدگی بحثهای کنترل خطر و رقابت قدرتهای بزرگ است.
### نظارت و ممنوعیت توسعه ابرهوش مصنوعی
در سیاست داخلی آمریکا، توافق بر سر یک پاسخ مشخص به چالشهای هوش مصنوعی وجود ندارد. باراک اوباما خواستار ایجاد چارچوبی برای گفتوگوی عمومی درباره مدیریت هوش مصنوعی شده است که به موضوعات متنوعی از کاهش سرعت تا اثرات اشتغال میپردازد. او اطلاعات موجود درباره ظرفیت هوش مصنوعی برای بهبود بهداشت و انرژی پاک را نیز در نظر گرفته است.
همچنین، برنی سندرز و گرگ کسار پیشنهاد کردهاند که توسعه «ابرهوش مصنوعی» ممنوع شده و استقرار قوانین ایمنی بهطور موقت باعث توقف توسعه سامانههای پیشرفته گردد. این طرح ایجاد یک نهاد فدرال برای نظارت بر چرخه عمر هوش مصنوعی را نیز در نظر دارد.
### سوالات کلیدی در خصوص هوش مصنوعی
در این مباحث، چند سوال کلیدی مطرح میشود: آیا توانایی کنترل همگام با پیشرفت فنی توسعه مییابد؟ چه نهادی صلاحیت تشخیص خطر را دارد؟ و هزینه کاهش سرعت یک بازیگر در رقابت بینالمللی چیست؟
این مناقشه احتمالاً بهعنوان یک نقطه عطف در سیاستهای هوش مصنوعی آمریکا قرار خواهد گرفت. در یک سو، تلاشهایی برای کنترل سرعت توسعه وجود دارد و در سوی دیگر، بر این باورند که سرعت خود یک مزیت است. سرنوشت تنظیمگری هوش مصنوعی بستگی به پاسخ به این سوالات خواهد داشت.
