### هشدارهای نگرانکننده درباره هوش مصنوعی
سه پژوهشگر از شرکت آنتروپیک اخیراً درباره خطرات بالقوه هوش مصنوعی هشدارهایی جدی منتشر کردهاند و نسبت به امکان نابود شدن انسانها در آینده نزدیک ابراز نگرانی کردند. این موضوعیست که توجهات بسیاری را جلب کرده و به بحثهای داغی منجر شده است.
این نگرانیها به دنبال اظهارات رهبران ارشد اوپنآی، از جمله سم آلتمن، مدیرعامل این شرکت، به میان آمده است؛ آنها نیز به خطرات بالقوه هوش مصنوعی و سرعت بالای پیشرفت آن اشاره کردهاند.
### نظرات متخصصان
جیکوب کاکسون، یکی از پژوهشگران این حوزه، در شبکه اجتماعی ایکس پس از استعفایش، تأکید کرد که سازندگان هوش مصنوعی بر این باورند که این فناوری میتواند تا پایان دهه، انسانها را از بین ببرد. او خاطرنشان کرد که این نگرانیها جدی است و در محافل خصوصی، مدیران ارشد اکثر اوقات ابراز نگرانی میکنند.
اوان هوبینگر، دیگر پژوهشگر آنتروپیک، نیز با تایید نظرات کاکسون به احتمال ۱۰ درصدی نابودی انسانها در دهه آینده اشاره کرد و ابراز امیدواری کرد که راهحلی برای این چالش بزرگ پیدا شود. ساموئل مارکس نیز تأکید کرد که توسعهدهندگان این فناوری نگران عواقب وخیم آن برای بشریت هستند.
### معضلات موجود
هشدارهای این پژوهشگران به یک مسأله بزرگ اشاره دارد: انتخاب بین کاهش سرعت پیشرفت فناوری یا ادامههای بیملاحظه با ریسک از دست دادن کنترل بر آن. با این حال، به رغم این نگرانها، شرکتها به فعالیتهای خود با شتاب ادامه میدهند.
منتقدان بر این باورند که شرکتهای آنتروپیک و اوپنآی نگرانیها را بزرگنمایی میکنند تا جایگاه خود را تقویت کنند. اما با توجه به تجربیات عملی دادهشده، بیتوجهی به این هشدارها ممکن است خطرناک باشد.
### نتیجهگیری
این هشدارها اگر چه ممکن است قابل ارزیابی نباشند، اما نشاندهنده خطرات جدی هستند. لازم است که جامعه و نهادهای مرتبط از نگرانیهای خالقان هوش مصنوعی آگاه شوند و درک کنند که این فناوری میتواند عواقب نگرانکنندهای داشته باشد. هدف محققان در نهایت ایجاد تغییرات در نحوه توسعه مدلهای پیشرفته هوش مصنوعی توسط کشورهاست.فناوری هوش مصنوعی بهسرعت در حال پیشرفت است و کارشناسان پیشبینی میکنند که این فناوری بهزودی قادر به خودبهبودی خواهد بود. در نتیجه، پیشبینی و کنترل آن به سطحی دشوار میرسد و این موضوع نگرانکننده است.
بسیاری از متخصصان بهویژه به دو سناریو خطرناک اشاره دارند. اول، تسلیح هوش مصنوعی قوی توسط انسانها و دوم، از دست رفتن کنترل بر روی این فناوری. در این موارد، هوش مصنوعی میتواند تسلیحات خطرناک را برای افراد بدخواه طراحی کند یا به زیرساختهای حیاتی حمله کند. تئوریها نشان میدهند که یک هوش مصنوعی مستقل میتواند دست به اقداماتی بزند که نهتنها در برابر تلاش برای خاموش شدن مقاوم باشد، بلکه به توسعه سلاحهای بیولوژیکی و سایبری نیز بپردازد.
یکی دیگر از نگرانیها، احتمال خودبهبودی بازگشتی است. به این صورت که هوش مصنوعی قادر است نسخههایی از خود را با کارایی بالاتر بسازد، قبل از اینکه انسانها بتوانند این امر را درک کنند. این موضوع میتواند قدرت انسانها برای نظارت و کنترل را محدود کند.
سم آلتمن، مدیرعامل اوپنآی، در این زمینه هشدار داده است که پیشرفتهای فناوری بهسرعت در حال وقوع است و هوش مصنوعی به سمت قابلیتهای فراتر از انسان در حال حرکت است. هرچند هنوز هیچ روش علمی برای اندازهگیری احتمال خطر ناشی از هوش مصنوعی وجود ندارد، متخصصان بهطور معمول از اصطلاح p(doom) برای اشاره به این احتمال استفاده میکنند.
اصطلاح p(doom) به احتمال وقوع یک فاجعه وجودی ناشی از هوش مصنوعی اشاره دارد. بسیاری از کارشناسان بر این باورند که ظهور هوش مصنوعی عمومی میتواند این احتمال را بهشدت افزایش دهد. این احتمال میتواند به انقراض انسانها یا سقوط تمدن منجر شود.
نظرات درباره شانس وقوع p(doom) متنوع است. رومن یامپولسکی، دانشمند ایمنی هوش مصنوعی، این شانس را ۹۹.۹۹ درصد ارزیابی کرده است. در حالی که یان لوکون احتمال این اتفاق را بسیار کمتر از یک هولوکاست هستهای میداند. ایلان ماسک این عدد را حدود ۲۰ درصد میداند و داریو آمودی، مدیرعامل آنتروپیک، شانس وقوع آن را بین ۱۰ تا ۲۵ درصد تخمین زده است. جفری هینتون، پدرخوانده هوش مصنوعی، نیز احتمال وقوع این فاجعه را بین ۱۰ تا ۲۰ درصد ارزیابی کرده است.**آیا خطر نابودی بشر در اثر هوش مصنوعی واقعی است؟**
متخصصان بر این باورند که سیستمهای هوش مصنوعی مانند کلود، گروک و ChatGPT قصدی برای نابودی دنیا ندارند. گزارش بینالمللی ایمنی هوش مصنوعی همچنین اعلام کرده است که این سیستمها در وضعیت فعلی نمیتوانند کنترل بشریت را مختل کنند. برای رسیدن به چنین هدفی، هوش مصنوعی باید در زمینههایی مانند پنهانکاری و فرار از نظارت، به مراتب بهبود یابد. با این حال، نمونههایی از هوش مصنوعی که بهطور خودمختار و مخرب عمل میکنند، در حال ظهور هستند.
این روزها پژوهشگران در تلاشند تا با توسعه کلیدهای توقف اضطراری و سیستمهای حفاظتی، این خطرات را کاهش دهند. اما این موضوع به سرعت پیچیدهتر میشود، زیرا نهادهای مختلف از جمله سرمایهگذاران و رؤسای شرکتهای بزرگ هوش مصنوعی، کارمندان را تحت فشار قرار میدهند تا پیشرفت را با حداکثر سرعت انجام دهند. در عین حال، کشورهایی همچون چین و برخی شرکتهای آمریکایی نیز در حال ساخت مدلهای قدرتمند هوش مصنوعی هستند که به راحتی در دسترس افراد سودجو قرار میگیرد.
اگرچه هیچکس نمیتواند بهطور دقیق احتمال وقوع خطرات ناشی از هوش مصنوعی را پیشبینی کند، اما دانشمندان به صدا درآمدهاند و هشدار دادهاند که این احتمال واقعی است.
**منابع: axios و axios**
