یوتیوب، پلتفرم محبوب ویدیو، در سالهای اخیر با اتکای فزاینده به هوش مصنوعی در زمینه نظارت، با چالشهای جدی مواجه شده است. اخیراً، حذف ناگهانی کانال Enderman که بیش از ۳۹۰ هزار مشترک داشت، نگرانیهای زیادی را در مورد تصمیمگیریهای خودکار و فقدان نظارت انسانی ایجاد کرد.
به گزارش ویبسایت زومیت، این پرونده زمانی مطرح شد که کاربران در ردیت اعلام کردند که کانال Enderman از دسترس خارج شده است. بسیاری از تولیدکنندگان محتوا نگران بودند که این اقدام بدون بازبینی انسانی تهدیدی جدی برای جامعهشان به شمار میآید، بهویژه زمانی که روند اعتراضات نیز بهوسیله هوش مصنوعی اداره میشود.
در ویدیویی که Enderman منتشر کرد، او توضیح داد که کانال دومی او بهدلیل یک خطای تشخیص هوش مصنوعی در ارتباط با کانالی که سه اخطار کپیرایت دارد، مسدود شده است. او تأکید کرد که هیچ ارتباطی با آن کانال نداشته و از نحوه تصمیمگیریهای اتوماتیک غافل بوده است.
مشابه این رخداد برای کانال Scrachit Gaming نیز به وقوع پیوست، اما یوتیوب پس از بررسیهای انسانی، هر دو کانال را دوباره فعال کرد، که نشاندهنده احتمال خطای الگوریتمی در این فرآیند است.
یوتیوب تاکید دارد که هوش مصنوعی تنها در صورت داشتن «سطح اطمینان بالا» اقدام به حذف محتوا میکند، اما هنوز مشخص نیست این معیار چگونه تعیین میشود. این عدم شفافیت و خطر اشتباهات سیستمی موجب شده که تولیدکنندگان محتوا اعتماد خود را به روشهای نظارتی یوتیوب از دست بدهند.
بهطور کلی، وابستگی بیشازحد یوتیوب به تصمیمگیریهای خودکار ممکن است به جامعه تولیدکنندگان آسیب جدی وارد کند. علیرغم ضرورت هوش مصنوعی برای مدیریت حجم بالای محتوا، نیاز به نظارت انسانی مؤثر در حذف کانالها برای جلوگیری از از بین رفتن ناگهانی تلاشهای چندساله وجود دارد.
