به گزارش خبرآنلاین، استنادهای درجشده در انتهای مقالههای پژوهشی باید نمایانگر دانش بنیادینی باشند که در مورد یک موضوع خاص وجود دارد و شامل منابعی است که در طول سالها مورد بررسی قرار گرفتهاند. اما با گسترش استفاده از هوش مصنوعی و مدلهای زبانی، احتمال وجود استنادهای جعلی در پژوهشها به شدت افزایش یافته است.
طبق اعلام ایسنا، محققان در یک مطالعه جدید، میلیونها مقاله را مورد بررسی قرار دادند و مشخص کردند که نزدیک به ۱۴۶,۹۰۰ استناد جعلی در چهار پایگاه داده علمی اصلی از جمله arXiv و PubMed Central در سال ۲۰۲۵ وجود دارد.
این استنادهای ساختگی تنها به عدهای محدود از افراد وابسته نیست، بلکه در بسیاری از مقالهها به چشم میخورد و بهطور کلی نشاندهنده استفاده گسترده از هوش مصنوعی توسط پژوهشگران است که در بررسی صحت خروجیهای خود قصور دارند.
تحقیقات علمی بر پایه نتایج پیشین بنا میشوند و هر یافته جدید به دادههای گذشته وابسته است. در این میان، رشد بیسابقه استفاده از هوش مصنوعی و پیامدهای آن نگرانیهای جدی را به همراه دارد.
مدلهای هوش مصنوعی میتوانند اطلاعاتی تولید کنند که به ظاهر واقعگرایانهاند اما در واقع ساختگی و نادرست هستند. این مدلها بر اساس دادههای وسیع آموزش میبینند و از الگوهای یادگیری برای تولید محتوای جدید بهرهمیبرند. به همین خاطر، خروجی آنها بعضی اوقات مبتنی بر حقایق واقعی نیست.
این مشکل تنها به پژوهشهای علمی محدود نمیشود و در اسناد دولتی، پروندههای قضائی و حتی مقالات خبری معتبر نیز مشاهده میشود. محققان پیش از وقوع این مشکل،研究های مختص به آن را انجام داده بودند، اما بسیاری از تحقیقات در مقیاس کوچک و در محیطهای کنترلشده صورت گرفته است.
محققان در این تحقیق، ۱۱۱ میلیون مرجع از ۲.۵ میلیون مقاله را بررسی کردند و به روشهای خودکار و دستی به دنبال استنادات نادرست بودند. فشارنتیجه نشان داد که بیش از ۹۵ درصد از منابع درست بودهاند و با استفاده از هوش مصنوعی، دیگر خطاها شناسایی شدند.
این مطالعه همچنین از افزایش استنادهای جعلی و نادرست پس از سال ۲۰۲۴ خبر میدهد و نشان میدهد که پژوهشگران تازهکار و گروههای کوچکترین تمایل را به استفاده از این استنادهای جعلی دارند، در عین حال که بسیاری از این پژوهشگران بعد از ظهور هوش مصنوعی شاهد افزایش چشمگیر تولید خود بودهاند.
تحقیقات نشان داده که این مشکل در مجلههای علمی تنها بخشی از خطاها را شناسایی میکند، به نحوی که تقریباً ۷۸.۸ درصد از استنادهای جعلی همچنان وارد نشریات میشوند. پژوهشگران بر این باورند که این توهمات به طور مداوم در حال نفوذ به تولید دانش علمی هستند و تهدیدی برای قابلیت اطمینان و عدالت در علم به شمار میروند. بدون مداخله در این روند، اثرات آن میتواند به حوزههای دیگر نیز سرایت کند.
