به گزارش رسانههای خبری، «میثوس»، مدل جدید هوش مصنوعی شرکت «آنتروپیک»، نگرانیهایی را در میان مقامات آمریکایی به ویژه «اندرو گاربارینو»، نماینده جمهوریخواه کمیته امنیت داخلی مجلس نمایندگان، ایجاد کرده است.
گاربارینو در مصاحبهای با برنامه «Fly Out Day» اعلام کرد که در یک دمو به اعضای کنگره نشان داده شده است که این مدل هوش مصنوعی چگونه میتواند به سیستمهای بانکی نفوذ کند. وی گفت که آنتروپیک از میثوس خواسته تا یک بانک را مورد ارزیابی قرار دهد و نقاط ضعف آن را شناسایی کند و مدل موفق به انجام این کار شد. در ادامه، میثوس توانست این نقصها را نیز رفع کند.
### خطرات مدل هوش مصنوعی میثوس
این دموها، چالشهایی را که هوش مصنوعی به همراه دارد، به وضوح به نمایش گذاشت و ضرورت اقدام فوری دولت برای کنترل تهدیدهای مرتبط با این فناوری را برجسته کرد. با این حال، گاربارینو اذعان کرده است که کنگره در یافتن راهحلهای عملی برای این معضل با مشکلات جدی روبرو است و هنوز به درک دقیقی از اقدامات لازم نرسیده است.
وزارت امنیت داخلی آمریکا و دیگر نهادهای مرتبط نیز به کنگره نشان دادهاند که در صورت نقض موانع حفاظتی، چه خطراتی میتواند به وجود آید. گاربارینو در ادامه گفته است که یکی از مدلها به طور دقیق طرحی برای ربودن یک قانونگذار در کمتر از ۳۰ ثانیه ارائه کرده است. وی درباره اینکه هکرها میتوانند از این مدلها برای حمله به زیرساختهای حساس استفاده کنند، هشدار داد.
این نماینده تأکید کرد که دسترسی به این پلتفرمها باید پیش از انتشار عمومی به آژانسهای فدرال و کنگره داده شود. وی همچنین از فرمان اجرایی «دونالد ترامپ»، که دولت را به آمادگی در برابر تهدیدات سایبری هوش مصنوعی ملزم میکند، تمجید کرد و به طرح پیشنهادی «جی اوبرنولتی» و «لوری تراهان» برای ایجاد چارچوب هوش مصنوعی فدرال نیز اشاره کرد، اما ابراز امیدواری اندکی برای واکنش سریع کنگره داشت و گفت که بسیاری از همکارانش هنوز از ابعاد این موضوع مطلع نیستند.
کاخ سفید در حال حاضر از دسترسی عمومی به مدل جدید آنتروپیک جلوگیری کرده و اخبار حاکی از آن است که از شرکت OpenAI نیز خواسته شده تا عرضه مدل بعدی خود را به تعویق اندازد.
به دلیل قابلیتهای خودکار این مدلها، آنها میتوانند بدون نیاز به دستورات انسانی عمل کنند؛ به طور مثال، میتوانند یک خط لوله گاز را قطع کنند یا میزان کلر موجود در آب شهری را افزایش دهند. گاربارینو تأکید کرد که این مدلها توانایی یادگیری و انجام وظایف به صورت مستقل را دارند.
