**تیم تحقیقاتی مایکروسافت از کشف آسیبپذیری «روز صفر» در سیستمهای زیست امنیتی خبر داد**
تیمی علمی از مایکروسافت گزارش داده است که با کمک هوش مصنوعی، موفق به شناسایی یک آسیبپذیری «روز صفر» در سیستمهای زیست امنیتی شده است. این سیستمها بهمنظور جلوگیری از سوءاستفاده از توالیهای ژنتیکی طراحی شدهاند، که میتوانند برای تولید عوامل بیماریزا و سموم کشنده مورد استفاده قرار گیرند.
بر اساس ادعای «اریک هورویتز»، دانشمند ارشد مایکروسافت، پژوهشگران به روشی برای دور زدن این تدابیر کشفنشده دست پیدا کردهاند. هورویتز و همکاران وی بر روی الگوریتمهای هوش مصنوعی تمرکز کردهاند که قابلیت پیشنهاد ایجاد پروتئینهای جدید را دارند. این نوع فناوریها معمولاً در جستجوی داروهای نوین به کار میروند.
مایکروسافت در سال ۲۰۲۳ آزمایشاتی به منظور ارزیابی پتانسیل دوگانه هوش مصنوعی و امکان طراحی پروتئینهای خصمانه از این طریق را آغاز کرده است. ابزارهای مورد استفاده، نرمافزارهای غربالگری امنیت زیستی هستند که میتوانند به شناسایی خطرات مرتبط با توالیهای DNA پرداخته و در صورت نیاز هشدار دهند.
در این آزمایش، مایکروسافت از مدلهای مختلف پروتئین برای طراحی مجدد سموم استفاده کرده و به گونهای آنها را تغییر داده که به نرمافزارهای غربالگری مربوطه فرار کنند. هرچند پژوهشگران تصریح کردهاند که هیچ پروتئین سمی تولید نشده و هدفتان تنها پیشگیری از توسعه سلاحهای بیولوژیک بوده است.
این شرکت پیش از انتشار نتایج، به دولت ایالات متحده و تولیدکنندگان نرمافزار هشدار داده و آنها اقدام به بهروزرسانی سیستمهای خود کردند. مشخص نیست که چه پروتئینهای سمی بازطراحی شدهاند، اما برخی از مواد خطرناک مانند ریسین و پریونهای عفونی شناخته شدهاند.
**تحلیلها درباره روشهای دفاعی مناسب**
دین بال، از بنیاد نوآوری آمریکا، بر ضرورت توسعه روشهای قویتر برای غربالگری توالیهای DNA تأکید کرده و گفت که این کشف نیاز فوری به تدابیر تازهای را در امنیت ملی نمایان میکند. همچنین یادآور شده است که دولت ایالات متحده، بررسی سفارشات DNA را بهعنوان خط دفاعی حیاتی در نظر دارد.
در همین حال، برخی کارشناسان مانند مایکل کوهن از دانشگاه کالیفرنیا، بر این باورند که بهترین روش دفاعی، اتکای صرف به تولید تجاری DNA نیست و ممکن است با پنهانسازی توالیهای خطرناک، این روش ناکارآمد شود. کوهن افزوده است که همچنان چالشهای امنیتی قابل توجهی وجود دارد که نیازمند بررسیهای بیشتر است.به تازگی بحثهایی پیرامون ضرورت پذیرش واقعیتهایی در زمینه کنترل فناوریهای جدید شکل گرفته است. برخی کارشناسان معتقدند که لازم است به عقبنشینی از نقاط قوت کنونی فکر کرد و به دنبال راهکارهایی بود که واقعاً قابلیت دفاع از آنها وجود دارد.
یکی از این کارشناسان بر این باور است که امنیت زیستی باید در دل سیستمهای هوش مصنوعی گنجانده شود. این امر میتواند از طریق ساختار اصلی مدلها یا با اعمال محدودیتهایی بر اطلاعاتی که این مدلها منتشر میکنند، صورت گیرد.
در همین راستا، کلور، یکی از اعضای یک شرکت تولید DNA، تأکید میکند که نظارت بر فرایند سنتز ژن همچنان روشی مؤثر برای شناسایی تهدیدهای زیستی به شمار میآید. او به این نکته اشاره میکند که در ایالات متحده، تولید DNA تحت نظارت چند شرکت محدود و نزدیک به دولت قرار دارد. در مقابل، فناوریهای مورد نیاز برای ساخت و آموزش مدلهای هوش مصنوعی به شدت گسترش یافته و دسترسی به آنها آسانتر شده است. کلور بیان کرد: «نمیتوانیم غول هوش مصنوعی را به سادگی در جای خود برگردانیم. اگر کسی منابع کافی برای تولید توالی DNA داشته باشد، احتمالاً قادر خواهد بود مدلی از یک زبان بزرگ (LLM) نیز بسازد.»
منبع: technologyreview
شماره درج: ۲۲۷۳۲۳
