**اشتباهات رایج چتباتهای هوش مصنوعی همچنان ادامه دارد**
به گزارش خبرگزاری، طبق اطلاعات زومیت، اشتباهات مبتنی بر اعتماد به نفس یکی از چالشهای مشابه چتباتهای هوش مصنوعی بهخصوص در مدلهای زبانی است. چتجیپیتی، یکی از مدلهای معروف، بهطوردایم در شمارش حرف «R» در کلمه «Strawberry» دچار خطا میشود. این مشکل در حالی مورد توجه قرار گرفته که کاربران در بخش نظرات به دیگر اشتباهات این فناوری اشاره کردهاند.
با وجود دستاوردهای جدید، یکی از معضلات بزرگ چتباتها این است که با اعتماد به نفس تمام، اطلاعات نادرست ارائه میدهند. این چتباتها قادر به تشخیص خطاهای خود نیستند و حتی زمانی که کاربران به آنها تذکر میدهند، به پاسخهای اشتباه خود ادامه میدهند. این موضوع به عنوان یک خطر جدی برای ابزارهای هوش مصنوعی شناخته میشود و با توجه به منابع وسیعی که این تکنولوژی مصرف میکند، میزان خطاها میتواند آزاردهنده باشد.
یکی از مثالهای بارز خطاهای چتجیپیتی، پرسش درباره تعداد تکرار حرف «R» در کلمه «Strawberry» است که مدتها پاسخ اشتباهی ارائه میداد. این مشکل مختص تنها این مدل نبود و سایر چتباتها نیز با مشکل مشابه روبرو بودند.
در تازهترین اعلام اوپنایآی در شبکه اجتماعی ایکس، این شرکت ابراز خرسندی کرده که چتجیپیتی اکنون میتواند به این پرسش پاسخ صحیح بدهد. از سوی دیگر، چالش منطقی دیگری در مواجهه با سوالاتی نظیر «آیا برای شستن ماشینم پیاده بروم یا با ماشین بروم؟» همچنان وجود دارد؛ چرا که چتجیپیتی بهسرعت به کاربر توصیه میکند پیاده به کارواش برود.
با اینکه در حال حاضر این دو سوال به درستی پاسخ میدهند، به نظر میرسد این پاسخها تنها برای این کلمات خاص برنامهریزی شدهاند. نظرات کاربران نشان میدهد چتبات در مواجهه با سوالات مشابه هنوز دچار اشتباه میشود؛ بهطور مثال در پاسخ به سوال «کلمه cranberry چند حرف R دارد؟»، چتبات همچنان با خطای «یک حرف R دارد» پاسخ میدهد.
استفاده از راهحلهای از پیش تعیینشده در چتباتهای هوش مصنوعی مسئله جدیدی نیست؛ اما تبلیغ اوپنایآی برای این اصلاحات در حالی که مشکلات اصلی هنوز پابرجا است، نوعی دورنگری و البته نگرانکننده به نظر میرسد.
