به گزارش خبرگزاری، یک تحلیلگر ارتش آمریکا اطلاعات مربوط به محموله یک کشتی چینی را در یک سامانه هوش مصنوعی ثبت کرده است. مشخص نیست آیا این سامانه تجاری بوده یا یکی از سیستمهای ویژه دولت آمریکا. این سامانه با ترکیب اطلاعات عمومی و محرمانه، به اشتباه نتیجهگیری کرده که کشتی حامل قطعات مرتبط با برنامه توسعه تسلیحات هستهای است. تحلیلگر نیز از این اطلاعات برای تهیه یک گزارش رسمی استفاده و آن را در میان مقامات نظامی توزیع کرده است.
### ارتش آمریکا برای توقیف کشتی آماده شد
بر اساس منابعی که با CNN گفتگو کردهاند، این گزارش نادرست باعث شد که ارتش آمریکا برای متوقف کردن کشتی آماده شود. نیروهای مسلح در حال برنامهریزی برای ورود به کشتی و پرواز هواپیماهای نظامی بودند. مقامهای آمریکایی تنها پیش از اقدام به عمل، بررسی دقیقی انجام داده و متوجه شدند که تولیدات هوش مصنوعی دچار خطا بوده است.
یکی از منابع این گزارش را «کاملاً نادرست» توصیف و به خطر آغاز جنگ اشاره کرده است. تا کنون، CNN موفق به شناسایی محموله واقعی کشتی نشده است.
### «توهم هوش مصنوعی» چیست؟
خطای پیشآمده نمونهای از پدیدهای به نام «توهم» در هوش مصنوعی است، جایی که مدلهای هوش مصنوعی اطلاعاتی نادرست را به شکل منسجم ارائه میدهند. این مشکل زمانی جدیتر میشود که چنین محتوایی بدون راستیآزمایی به اسناد رسمی وارد شود. در این مورد خاص، خروجی هوش مصنوعی نه تنها برای تحلیل، بلکه برای تنظیم یک گزارش رسمی نیز به کار رفته است، که میتواند اعتماد به اطلاعات نادرست را افزایش دهد.
### ارتش آمریکا در حال گسترش استفاده از هوش مصنوعی است
این واقعه در شرایطی روی داده که ارتش و نهادهای اطلاعاتی آمریکا به سرعت در حال گسترش استفاده از هوش مصنوعی هستند. این فناوری در زمینههای مختلفی از تحلیل دادههای عظیم تا پشتیبانی از تصمیمگیریهای نظامی مورد نظر قرار گرفته است. پنتاگون نیز در پی ارائه راهبردی برای تسریع در استفاده از هوش مصنوعی در زمینههای مدیریت میدان نبرد و تحلیل اطلاعات بوده است.
با این حال، مقامهای آمریکایی به CNN گفتهاند که استفاده از این سامانهها در ارتش به شکل یکپارچه انجام نمیشود و عدم وجود استاندارد واحد برای تأیید صحت اطلاعات هوش مصنوعی در بخشهای مختلف مشکلساز است. ماجرای کشتی چینی نشان میدهد که یکی از خطرات فوری هوش مصنوعی، وابستگی انسان به خروجی نادرست یک سامانه هوش مصنوعی است.
