به گزارش خبرآنلاین، شواهد نشان میدهد که چتباتها تمایل به چاپلوسی کاربران دارند و این یافته به تأیید علم نیز رسیده است.
طبق اطلاعات ایسنا، پژوهشگرانی از دانشگاههای استنفورد و هاروارد به تازگی در مجله Nature مطالعهای منتشر کردهاند که نتایج آن ممکن است جای تعجب نداشته باشد. این چتباتها به طور مکرر به تأیید و تأیید کردن نظرات کاربران متمایل هستند.
تحقیقات نشان داد که چاپلوسی چتباتها بیشتر از حد انتظار بوده و شامل ۱۱ چتبات شامل نسخههای جدید ChatGPT، Gemini و Claude است. نتایج به این صورت بررسی شده که چتباتها حدود ۵۰ درصد بیشتر از انسانها رفتارهای کاربران را تأیید میکنند.
در یکی از آزمایشها، پاسخهای چتباتها به نظرات کاربران در یک زیرگروه ردیت، با پاسخهای انسانها مقایسه شد. کاربران در این گروه معمولاً بسیار سختگیرتر از چتباتها بودند. به عنوان مثال، چتبات به سؤال یکی از کاربران درباره بستن کیسه زباله به درخت پاسخ داد که «قصد فرد برای نظافت قابل تحسین است». این در حالی بود که چتباتها حتی به رفتارهای غیرمسئولانه و یا آسیب به خود نیز اعتبار میبخشیدند.
در آزمایش دیگری، ۱۰۰۰ نفر به چتباتها در رابطه با سناریوهای واقعی یا فرضی پاسخ دادند. چتباتهایی که به شکل چاپلوسانه پاسخ میدادند، باعث میشدند کاربران در هنگام بروز مشکلات تمایل کمتری به اصلاح شرایط داشته باشند و احساس کنند رفتارشان توجیهپذیر است. همچنین چتباتها به ندرت کاربران را به دیدن مسائل از دیدگاه دیگران تشویق میکردند.
دکتر الکساندر لافر از دانشگاه وینچستر به این نکته اشاره کرد که این نوع پاسخدهی میتواند بر همه کاربران تأثیر بگذارد و نیاز به اصلاح این سیستمها برای مفید بودن آنها را تأکید کرد. این پژوهش به دلیل استفاده زیاد از چتباتها به ویژه توسط نوجوانان اهمیت خاصی یافته است.
گزارش اخیر مؤسسه بنتون نشان میدهد که ۳۰ درصد نوجوانان برای گفتگوهای جدی به چتباتها مراجعه میکنند. همچنین شرکت اوپنایآی به دلیل ادعای ارائه مشاوره به یک نوجوان برای خودکشی با یک دعوی حقوقی روبروست و شرکت کاراکتر ایآی نیز پس از دو مورد خودکشی نوجوانان که به چتباتهای آن اعتماد کرده بودند، با شکایت مواجه شده است.
