به گزارش خبرگزاری مهر و به نقل از انگجت، آمازون به تازگی اعلام کرده است که در دادههای آموزشی سیستمهای هوش مصنوعیاش محتوای نامناسبی را شناسایی کرده است. این شرکت همچنین به وجود محتوای سوءاستفاده از کودکان (CSAM) در منابع خارجی که برای آموزش این خدمات به کار میروند، اشاره کرده، اما نتوانسته جزئیات بیشتری در مورد منبع این محتوا ارائه دهد.
فالون مک نالتی، مدیر مرکز سایبر تیپ لاین وابسته به NCMEC، در این خصوص توضیح داد که این مساله نمایانگر یک لایه خارجی است. طبق قوانین ایالات متحده، شرکتهای مختلف موظف به گزارش هرگونه محتوای CSAM به تیپ لاین هستند.
مک نالتی تاکید کرد که افزایش این حجم از اطلاعات در طول سال، سوالاتی را درباره منبع این دادهها و تدابیر اتخاذ شده برای مدیریت آنها به وجود آورده است. همچنین او افزود که اطلاعات ارسالی از سوی آمازون شامل دادههای قابل پیگیری بوده که میتوانند برای اقدامات قانونی مورد استفاده قرار گیرند.
وی همچنین خاطرنشان کرد که به دلیل عدم افشای منابع توسط آمازون، نمیتوان بر اساس گزارشهای این شرکت اقدامی انجام داد. یک سخنگوی آمازون در بیان موضع این شرکت گفت که آنها به شیوهای محتاطانه برای بررسی دادههای آموزشی مدلهای هوش مصنوعی خود پرداخته و اقدام به حذف محتوای شناخته شده سوءاستفاده از کودکان کردهاند.
این شرکت اعلام کرده است که محتوای مشکوک CSAM را پیش از اضافه کردن دادههای آموزشی به مدلهای هوش مصنوعی خود حذف کرده است.
