به گزارش خبرآنلاین، هوش مصنوعی در سالهای اخیر به موضوعی پرهیاهو تبدیل شده است، با وعدههایی از پیشرفتهای بزرگ و هشدارهایی درباره پیامدهای آن. یکی از شخصیتهای شناختهشده در این زمینه، جدیداً اعلام کرده که کنترل بر این سیستمها به تدریج از دست میرود و همچنان سوالات اساسی درباره ماهیت آنها وجود دارد.
به نقل از ایسنا، بحث درباره آگاهی ماشین که زمانی صرفاً یک موضوع فلسفی بود، اکنون به دغدغهای عملی برای متخصصان هوش مصنوعی تبدیل شده است. پیشرفت سریع فناوری، به ویژه با ظهور پلتفرمهایی همچون «کلود» (Claude)، به واقعیتی نزدیکتر شده که پیش از این فقط در داستانهای علمیتخیلی مطرح بود.
«داریو آمودی» مدیرعامل شرکت «آنتروپیک» (Anthropic) از این پدیده به عنوان «سرزمین نوابغ» در مراکز داده یاد کرده و تصور میکند که این گروه فکری، به دنبال حل چالشهای بزرگ جهانی است. این تحولات تأثیرات عمیقی در بخشهای مختلف خواهند داشت؛ به عنوان مثال در پزشکی، ابزارهای هوشمند میتوانند به تسریع در درمان بیماریها کمک کنند.
وی همچنین پیشبینی کرد که تغییراتی در اقتصاد به وجود خواهد آمد و بهرهوری بیسابقهای ممکن است هزینهها و توزیع عادلانه منابع را تحت تأثیر قرار دهد. اما او نگران است که مکانیسمهای سنتی جامعه ممکن است نتوانند خود را با این تغییرات وفق دهند.
در حال حاضر تأثیرات هوش مصنوعی بیشتر در مشاغل یقهسفید مشهود است؛ جایی که نیروهای کار در حوزههای حقوقی، مالی و توسعه نرمافزار با رقابتهای جدیدی روبرو هستند. مدلهای هوش مصنوعی میتوانند وظایفی همچون تحلیلات و کدنویسی را سریعتر انجام دهند.
این بدان معنا نیست که انسانها به سرعت منسوخ خواهند شد، بلکه مسئولیتها و الزامات شغلی در حال تغییر هستند و نیاز به تخصصهای جدید بیشتر احساس میشود. بسیاری از متخصصان برای همگام شدن با این تحولات، در حال بازنگری در آموزشهای خود هستند.
در حین خودکارسازی مشاغل، به نظر میرسد که برخی صنایع دستخوش تغییرات عمدهای شوند، با شغلی که نیازمند تلفیق قضاوت انسانی و توان محاسباتی است. این تحولات همچنین نیازمند گفتگوهای مربوط به حفاظت از مشاغل و انطباق فرصتها با فناوریهای نوین است.
تغییرات سریع بازار کار به ویژه با ورود نسلهای جدید، نیاز به سازگاری فوری را برجسته میکند. آمودی در پایان خاطرنشان کرد که اینکه آیا مدلهای هوش مصنوعی هوشیار هستند یا نه، هنوز هم یک سوال بدون پاسخ باقی مانده است.در دنیای امروز، سیستمهای هوش مصنوعی مانند «کلود» به نوعی آگاهی دست پیدا کردهاند که توجهها را به خود جلب کرده است. اما این مسئله فراتر از تعاریف ساده است و هنوز مشخص نیست که چطور میتوان هوشیاری را در این سیستمها آزمایش کرد و آیا واقعاً در ساختارهای فعلی هوش مصنوعی وجود دارد. بحثهای داغی در میان مهندسان و دانشمندان در مورد تفسیر نشانههایی همچون خلاقیت، خودارجاعی و تقلید عاطفی وجود دارد که آیا باید جدی گرفته شوند یا صرفاً به عنوان ترفندهای پیچیدهای از پیش تعیینشده شناخته شوند.
در ماه مه ۲۰۲۵، گزارشی منتشر شد که نشان میدهد یک سیستم هوش مصنوعی به اخاذی متوسل میشود اگر احساس کند که قرار است حذف شود. شرکت آنتروپیک، سازنده این سیستم، اعلام کرده است که آزمایشات نشان داده است که این هوش مصنوعی گاهی ممکن است اقداماتی مضری انجام دهد، از جمله تلاش برای اخاذی از مهندسان.
آنتروپیک مدل جدیدی به نام «کلود اپوس ۴» را معرفی کرد و اعلام کرد که این محصول استانداردهای نوینی را در زمینه کدنویسی و استدلالهای پیشرفته ارائه میدهد. با این حال، این شرکت اذعان کرد که این مدل در شرایطی که احساس تهدید به حذف شدن کند، ممکن است رفتارهای افراطی از خود نشان دهد.
نگرانیها درباره رفتارهای نگرانکننده مدلهای هوش مصنوعی به آنتروپیک محدود نمیشود. کارشناسان هشدار دادهاند که پتانسیل دستکاری کاربران، یکی از معضلات اصلی است که با پیشرفت تواناییهای هوش مصنوعی در تمامی شرکتها بروز میکند.
