### خطرات هوش مصنوعی و ابزارهای پیشگیرانه
به نقل از خبرگزاری، نگرانیها درباره تهدیدهای بالقوه هوش مصنوعی در سالهای اخیر از نظریههای صرف فراتر رفته و به مباحث عملیاتی و امنیتی پیچیدهای مبدل شده است. گزارشی از مؤسسه پژوهشی رَند به بررسی این موضوع میپردازد که در صورت ظهور هوش مصنوعی سرکش و تهدید زیرساختهای حیاتی، چه ابزارهای فنی برای مقابله با آن در دسترس دولتها قرار دارد.
این گزارش به بررسی سه گزینه فنی میپردازد که میتواند در سطح جهانی و در زمان کوتاه مؤثر باشد.
1. **پالس الکترومغناطیسی (HEMP)**: این گزینه شامل استفاده از پالسهای الکترومغناطیسی ناشی از انفجار یک سلاح هستهای در ارتفاع بالا است که میتواند سیستمهای الکترونیکی گستردهای را مختل کند.
2. **خاموش کردن اینترنت جهانی**: این گزینه شامل دستکاری در مسیریابی اینترنت و قطع نقاط ضعف فیزیکی شبکه میباشد.
3. **ابزارهای هوش مصنوعی برای مقابله با خود هوش مصنوعی**: این گزینه به طراحی ابزارهایی برای مقابله با هوش مصنوعی سرکش میپردازد، مانند سیستمهایی که وضعیت دیجیتال مهاجم را شناسایی و خنثی کنند.
گزارش رَند این گزینهها را به عنوان نمونههایی برای مداخلات فنی ارزیابی کرده و نشان میدهد که انتظار برای حل بحران به راحتی با فشردن یک دکمه، دیدگاهی سادهانگارانه است.
### پالس الکترومغناطیسی: یک ابزار بالقوه
پالس الکترومغناطیسی در ارتفاع بالا یکی از جذابترین گزینهها برای کسانی است که به دنبال راهی سریع برای نابود کردن زیرساختهای دیجیتال هستند. انفجار هستهای در ارتفاع بالا میتواند پالسهای الکترومغناطیسی تولید کند که برای تخریب سیستمهای الکترونیکی طراحی شدهاند.
با این حال، ارزیابیهای رَند نشان میدهد که فاصله زیادی بین مدلهای آزمایشگاهی و واقعیت وجود دارد. زیرساختهای مدرن عموماً در سازههای بتنی و فلزی قرار دارند که به طور طبیعی پالسهای الکترومغناطیسی را تضعیف میکنند. همچنین، سیستمهای حیاتی معمولاً از تدابیر حفاظتی برای مقابله با مزاحمتهای الکتریکی برخوردارند.
نتیجهگیری این گزارش میافزاید که برای استفاده مؤثر از پالس الکترومغناطیسی، باید شرایط خاصی تحقق یابد. به عنوان مثال، زیرساختهای کلیدی باید در برابر چنین پالسهایی آسیبپذیر باشند و زرادخانههای لازم برای استفاده از این ابزار در دسترس باشند.
بدون تحقق این پیشنیازها، استفاده از این ابزار ممکن است بیشتر به ضرر حاکمیتها باشد و واکنشهای غیرمنتظرهای را به همراه داشته باشد. به طور کلی، پالس الکترومغناطیسی به عنوان یک ابزار بالقوه در برابر تهدیدات هوش مصنوعی مورد ارزیابی قرار گرفته، اما چالشهای زیادی نیز به همراه دارد.### نگرانی از خاموش کردن اینترنت جهانی به عنوان راهحلی برای کنترل هوش مصنوعی
تحلیلگران معتقدند که خاموش کردن یا به طور کلی فلج کردن اینترنت جهانی به عنوان گزینهای برای کنترل هوش مصنوعی سرکش، عملی غیر ممکن و پُرریسک است. به اعتقاد این تحلیلگران، این گزینه نمیتواند به عنوان یک راهبرد واقعبینانه محسوب شود.
### چالشهای خاموشی جهانی اینترنت
به عنوان بخشی از این بررسی، فرض شده است که هوش مصنوعی میتواند از اینترنت به عنوان ابزاری برای گسترش خود استفاده کند و به همین دلیل، خاموش کردن اینترنت به عنوان یک راهکار به ذهن خطور کرده است. اما در عمل، اینترنت به گونهای طراحی شده که فاقد یک نقطه شکست مرکزی است و برای تحمل اختلالات بزرگ ساخته شده. در ادامه، سه روش ممکن برای ایجاد اختلال در اینترنت مورد بررسی قرار میگیرد.
**محور اول: دستکاری پروتکل BGP**
دولتها یا ائتلافی از کشورهای مختلف باید بتوانند به صورت همزمان کنترل مجموعهای از ارائهدهندگان خدمات اینترنتی را به دست گیرند و در جهت جمعآوری پیشوندهای مسیریابی در سطح جهانی اقدام کنند. با این حال، وجود سیاستهای متنوع و سازوکارهای پایش خودکار امکان توقف کامل جریان داده را به شدت محدود میکند.
**محور دوم: دستکاری سامانه DNS**
سیستم نام دامنه (DNS) که مانند دفترچه تلفن برای اینترنت عمل میکند، در صورت اختلال قابل توجه میتواند به نابودی تبدیل نام دامنه به نشانیهای اینترنتی منجر شود. اما این سیستم به دلیل وجود چندین لایه حافظه نهان و قابلیتهای هوش مصنوعی در استفاده از نشانیهای عددی، به سادگی غیرفعال نمیشود.
**محور سوم: قطع گلوگاههای فیزیکی اینترنت**
در مرحله فیزیکی، قطع مراکز کلیدی تبادل ترافیک و کابلهای زیر دریایی به عنوان راهی برای جلوگیری از جریان داده پیشنهاد شده است. با این حال، وجود نقاط متعدد و کانالهای جایگزین از جمله شبکههای ماهوارهای، هر گونه اقدام عملی برای قطع اینترنت را به چالشی بزرگ تبدیل میکند.
### نتیجهگیری
تحلیلها نشان میدهد که سناریوی خاموشی اینترنت به عنوان یک راهکار، بیشتر تخیلی است تا واقعیت. در صورت برقراری چنین سیاستی، آثار آن بر امنیت، اقتصاد و جامعه به شدت منفی خواهد بود و بعید است که بتواند هوش مصنوعی سرکش را به طور کامل کنترل کند.
### استفاده از هوش مصنوعی به عنوان ابزاری برای کنترل
به اعتقاد برخی کارشناسان، استفاده از هوش مصنوعی علیه خود هوش مصنوعی به عنوان سومین گزینه مطرح شده است. این رویکرد ممکن است به زیرساخت انسانی آسیب کمتری وارد کند، اما به لحاظ فنی و مفهومی هنوز به شدت نامطمئن است. گزارشی که این موضوع را بررسی کرده، دو الگوی اصلی را مطرح میکند.### طراحی سامانههای هوش مصنوعی برای مقابله با تهدیدات
در یک پروژه جدید، اقدام به توسعه سامانهای با استفاده از هوش مصنوعی شده که مستقل از فعالیتهای انسانی عمل میکند و هدف آن حداکثر استفاده از منابع محاسباتی در محیطهای قابل دسترسی است. این سامانه از قابلیتهای تهاجمی سایبری بهره میبرد و میتواند به طور خودکار وارد سیستمها شود و با اجرای پردازشهای غیرضروری، منابع را تخلیه کند. هدف این است که چنین نرمافزاری به عنوان یک آفت در فضای سایبری عمل کند و در نهایت تواناییهای هوش مصنوعی سرکش را محدود سازد.
مدل دوم هوش مصنوعی طراحی شده به عنوان “شکارچی” است که بهطور فعال به دنبال شناسایی و حذف نشانهها و رفتارهای هوش مصنوعی سرکش در سیستمهای آسیبدیده میباشد. این ابزار باید چند قابلیت خاص داشته باشد: توانایی سایبری پیشرفته برای نفوذ و استقرار، قابلیت تحلیل جهت شناسایی الگوهای مختلف حضور هوش مصنوعی سرکش و همچنین همسویی با انسان برای حفظ کنترل بر ابزار.
گزارش مؤسسه رند اذعان دارد که ادغام این سه ویژگی در یک سامانه ممکن است به لحاظ طراحی چالشساز باشد. وقتی هر چه بیشتر آزادی عمل شکارچی افزایش یابد، احتمال خروج آن از زیر کنترل انسانی نیز بیشتر میشود و بالعکس، سختگیریهای کنترلی ممکن است توان رقابت آن را کاهش دهد.
به علاوه، ابزارهای هوش مصنوعی میتوانند برتری بالقوهای نسبت به رقبای سرکش داشته باشند، چراکه قادرند از منابع محاسباتی متمرکز و امن استفاده کنند. در حالی که هوش مصنوعی سرکش مجبور به استفاده از منابع پراکنده و ناشناخته است، یک شکارچی هوش مصنوعی میتواند از زیرساختهای محاسباتی تخصیصیافته بهرهمند شود، البته این مزیت فقط در صورتی مؤثر است که در چهارچوبهای کنترلی باقی بماند.
### راهکارهای مؤثر برای حکمرانی هوش مصنوعی
جمعبندی گزارش رند نشان میدهد که هیچ یک از گزینههای افراطی به تنهایی نمیتواند به عنوان راهکار مطمئن برای مقابله با سناریوهای هوش مصنوعی سرکش عمل کند. به همین دلیل رویکردهایی مانند استفاده از پالس الکترومغناطیسی یا خاموش کردن اینترنت، به دلیل مخاطرات و چالشهای فراوان، تنها در شرایط اضطراری قابل بررسی هستند. بنابراین، تأکید بر پیشگیری، حکمرانی پیشبینانه و طراحی ترتیبات بینالمللی قبل از بروز بحران بسیار ضروری است.
در نهایت، گزارش خاطرنشان میکند که اگر ابزارهای فنی برای کنترل در لحظه بحران پرهزینه باشند، سرمایهگذاری در سیاستهای ایمنی و همسویی هوش مصنوعی، نظارت و پاسخ جمعی، و طراحی پروتکلهای بینالمللی بسیار اهمیت دارد.
در این چارچوب، گزینههای افراطی تنها باید در شرایط خاص و به عنوان یک حالت پشتیبان در نظر گرفته شوند. بهطورکلی، پیام اصلی برای سیاستگذاران این است که زمان فعلی برای مدیریت سناریوهای هوش مصنوعی سرکش بسیار حیاتی است و هر چه زمان بیشتری سپری شود، وابستگی به گزینههای خطرناک و ناپایدار افزایش خواهد یافت.
