بر اساس گزارشی از دانشگاه MIT و گزارش دیجیاتو، نتایج یک پژوهش جدید نشان میدهد که مدلهای زبانی بزرگ همچون GPT-4، Claude 3 Opus و Llama 3 در برخی شرایط به کاربران با تسلط کم به زبان انگلیسی یا تحصیلات پایین، پاسخهایی با کیفیت و دقت پایینتری ارائه میدهند.
در این تحقیق، محققان به منظور ارزیابی عملکرد مدلها، بیوگرافی فرضی کاربران شامل سطح تحصیلات، میزان تسلط به زبان انگلیسی و کشور محل سکونت را به سؤالات علمی و عمومی اضافه کردند. یافتهها نشان داد که دقت پاسخها برای کاربران غیرانگلیسیزبان و کمتحصیلات به شکل قابل توجهی کاهش یافته است.
همچنین، بررسیها نشان داد که مدل Claude 3 Opus در پاسخگویی به کاربران ایرانی نسبت به کاربران آمریکایی عملکرد ضعیفتری دارد. در برخی موارد نیز این مدل از پاسخدهی به کاربران غیرانگلیسیزبان خودداری کرده یا لحن نامناسب و تحقیرآمیز به کار برده است.
محققان همچنین بر این نکته تاکید کردند که با افزایش قابلیتهای شخصیسازی در چتباتها، ریسک تقویت سوگیریهای پنهان و افزایش نابرابری اطلاعاتی بیشتر میشود؛ موضوعی که میتواند اعتماد عمومی به ابزارهای هوش مصنوعی را به چالش بکشد.
