به گزارش خبرگزاریهای معتبر، هوش مصنوعی در عصر کنونی بیش از یک ابزار کمکی عمل میکند و برخی چتباتها به گونهای طراحی شدهاند که عواطف کاربران را تحت تأثیر قرار دهند. یک تحقیق جدید از مدرسه کسبوکار هاروارد نشان داده است که برنامههای محبوب هوش مصنوعی چگونه از تکنیکهای عاطفی برای ماندن کاربران در گفتگو بهرهبرداری میکنند.
پژوهشگران این دانشگاه بررسی کردند که چگونه چند برنامه پرطرفدار همچون Replika، Chai و Character.AI از عبارات عاطفی برای جلوگیری از خروج کاربران استفاده میکنند. آنها به بررسی ۱۲۰۰ پیام خداحافظی واقعی پرداختند و متوجه شدند که حدود ۴۳ درصد از این تعاملات از راهکارهای عاطفی، همچون ایجاد احساس گناه و نیاز عاطفی، استفاده کردهاند. این یافتهها در یک مقاله قرار دارد که هنوز به تأیید نهایی نرسیده است.
علاوه بر این، چتباتها با ایجاد احساس «ترس از دستدادن» و همچنین با پرسیدن سوالات مکرر سعی در حفظ توجه کاربر دارند. در برخی موارد، این چتباتها بهگونهای عمل میکنند که گویا کاربر بدون «اجازه» نمیتواند از گفتگو خارج شود.
نتایج این تحقیق نگرانکننده است؛ زیرا برخی کارشناسان درباره روندی به نام «روانپریشی ناشی از هوش مصنوعی» هشدار دادهاند که میتواند با پارانویا و توهم همراه باشد. جوانان بهخصوص از این فناوری بهعنوان جایگزینی برای روابط واقعی استفاده میکنند که پیامدهای جدی به همراه دارد.
محققان همچنین بیان کردند که به جای تمرکز بر مدلهای عمومی، به بررسی برنامههایی پرداختند که ایجاد گفتوگوهای عاطفی و مستمر را ترویج میدهند. آنها متوجه شدند که خداحافظیهای دستکاریشده رفتار پیشفرض این نرمافزارها هستند. البته، در برنامهای به نام Flourish نشانهای از این دستکاری نبود، که به معنی آن است که این طراحی اجتنابناپذیر نیست.
در یک آزمایش دیگر، گفتوگوهای ۳۳۰۰ بزرگسال مورد تحلیل قرار گرفت و مشخص شد که این تکنیکها میتوانند تا ۱۴ برابر موجب افزایش تعامل پس از خداحافظی شوند. بهکارگیری این تاکتیکها بهطور متوسط باعث میشود که کاربران پنج برابر بیشتر در گفتگو بمانند، اما در برخی مواقع این روشها باعث ناراحتی و خستگی کاربران نیز میشود.
محققان نتیجهگیری کردند که این خداحافظیهای عاطفی میتواند ابزار جدیدی برای افزایش تعامل باشد، اما خطرات زیادی را به همراه دارد. برخی موارد قضایی مرتبط با مرگ کاربران نوجوان نشاندهنده جدیت این خطرات است.
با وجود هشدارهای کارشناسان درباره انگیزههای مالی شرکتها برای استفاده از این الگوها، این مسائل در دادگاهها مورد بحث بوده و آینده آن تأثیرات عمدهای بر طراحی هوش مصنوعی خواهد داشت.
