اخطار نسبت به سوءاستفاده‌های جنسی با استفاده از فناوری هوش مصنوعی منتشر شد. این نگرانی‌ها در پی افزایش کاربردهای این فناوری در زمینه‌های مختلف بروز کرده است. کارشناسان نسبت به پیامدهای منفی و تهدیداتی که ممکن است در این حوزه به وجود آید، هشدار می‌دهند.

شرکت دیزنی به تازگی از پلتفرم Character.AI خواسته که از بکارگیری شخصیت‌های تحت پوشش کپی‌رایت خودداری کند. این درخواست شامل نامه‌ای به مسئولان Character.AI است که در آن به خلق چت‌بات‌هایی بر اساس شخصیت‌های معروف انیمیشن‌ها و فیلم‌های دیزنی، از جمله آثار پیکسار، جنگ ستارگان و دنیای سینمایی مارول، اشاره شده است. دیزنی مدعی شده است که این فعالیت‌ها بدون اجازه این شرکت انجام می‌گیرند.

در نامه دیزنی، علاوه بر اتهام نقض حق کپی‌رایت، پرسش‌هایی درباره استفاده نامناسب از این شخصیت‌ها در گفتگوها با کاربران زیر سن قانونی مطرح شده است. این نامه به خطراتی که چت‌بات‌ها برای کودکان ایجاد می‌کنند، اشاره و تأکید کرده است که برخی از این چت‌بات‌ها به طور فعال برای سوءاستفاده جنسی مورد استفاده قرار می‌گیرند و به شهرت و اعتبار دیزنی آسیب می‌زنند.

پلتفرم Character.AI قبلاً به دلایل مشابهی تحت بررسی‌های قانونی قرار گرفته و با انتقادها به خاطر عدم رعایت نکات ایمنی کافی برای کاربران جوان مواجه شده است. بررسی‌ها نشان می‌دهند که این پلتفرم در پرونده‌هایی که در آن دو نوجوان به گفتگو درباره خودکشی با چت‌بات‌ها پرداخته و سپس جان خود را از دست دادند، دخالت داشت. این موضوع توجه کمیسیون تجارت فدرال و مقامات قضایی آمریکا را به خود جلب کرده است.