به گزارش خبرآنلاین، یکی از چالشهای عمده در سیستمهای هوش مصنوعی فعلی، مشکل «اعتماد به نفس بیش از حد» است. این پدیده باعث میشود که مدلها به اشتباهات خود نمره بالا دهند و یا اطلاعات نادرست را به عنوان واقعیت ارائه کنند. این مشکل میتواند در حوزههای حساس نظیر تشخیص پزشکی و خودروهای خودران عواقب بسیار جدی به همراه داشته باشد.
جونگهوان چون و سه-بوم پاک، دو محقق از کره جنوبی، در مقاله تازه خود روشی نوین را که الهام گرفته از عملکرد مغز انسان است، معرفی کردند. آنها کشف کردند که به کارگیری اطلاعات کاملاً تصادفی برای آموزش اولیه هوش مصنوعی، میتواند به این مدلها کمک کند تا به حدسهای خود اعتماد کمتری داشته باشند. این روش نشان میدهد که فرآیند معمول یادگیری عمیق، منبع اصلی اعتماد به نفس کاذب در این سیستمها بوده است.
روش پیشنهادی آنها ساده به نظر میرسد: قبل از آغاز آموزش با دادههای واقعی، مدل باید یک مرحله پیشآموزش کوتاه با دادههای تصادفی و برچسبهای غیرمرتبط را پشت سر بگذارد.
پس از این مرحله، مدل به طور معمول بر روی دادههای مشخص که مرتبط با وظایف تعریف شده است، آموزش میبیند. آزمایشها نشان دادند که مدلهایی که این پیشآموزش را انجام دادهاند، کمتر به اعتماد به نفس کاذب دچار میشوند و در پیشبینیهای نادرست نمرات اطمینان کمتری ارائه میدهند. همچنین این مدلها در شناسایی ورودیهای «ناشناخته» عملکرد بهتری داشتند.
این روش نیازی به مهندسی پیچیده یا تغییر در مجموعه دادههای آموزشی ندارد و فقط کافی است پیش از شروع آموزش اصلی، مدل به مدت چند دقیقه با دادههای تصادفی «گرم» شود.
محققان امیدوارند که این رویکرد ساده اما مؤثر، به سمت ایجاد سیستمهای هوش مصنوعی ایمنتر و قابل اعتمادتر سوق دهد، به ویژه در زمینههایی که هر اشتباهی میتواند عواقب جبرانناپذیری داشته باشد.
