در دنیای نوین هوش مصنوعی، مرز میان «بهبود سلامت» و «فریب علمی» به شدت باریک شده است. براساس آمارهای منتشر شده، تا سال ۲۰۲۶، میلیونها نفر در سراسر جهان به جای مراجعه به پزشکان، به چتباتها برای تشخیص بیماریهای خود متکی شدهاند که این امر نگرانیهای زیادی را در میان کارشناسان پزشکی به همراه داشته است.
ژورنال معتبر Nature Medicine در جدیدترین شماره خود، به نقد نفوذ سریع هوش مصنوعی در عرصههای درمانی پرداخته و در سرمقالهاش اشاره کرده است که «شواهدی مبنی بر مفید بودن ابزارهای هوش مصنوعی برای بیماران و پزشکان به طور قابل توجهی کم است.»
این نشریه نیز بر این نکته تأکید کرده که بازار امروز مملو از محصولات و مقالاتی است که مدعی «تأثیر مثبت بالینی» هستند اما توافقی بر سر سطح شواهد معتبری که این ادعاها را تأیید کند، وجود ندارد. این ناهماهنگی منجر به پیادهسازی زودهنگام ابزارهایی شده که هنوز در شرایط واقعی مورد ارزیابی قرار نگرفتهاند.
یافتههای تحقیقی نشان میدهد که مدلهای بزرگ زبانی (LLM) با مشکلات جدی مواجهاند. به عنوان مثال:
– **تشخیصهای نادرست ۸۰ درصدی:** مطالعهای در ژورنال JAMA Medicine نشان داد که این مدلها در مواجهه با علائم مبهم و پیچیده، در بیش از ۸۰ درصد موارد قادر به تشخیص درست نیستند.
– **توهم در تحلیل تصاویر:** برخی از این الگوریتمها بدون اینکه تصویری به آنها داده شود، گزارشهای بالینی مفصل و ساختگی از تصاویر خیالی ارائه کردهاند.
– **بیماریهای غیرواقعی:** در یک آزمایش، محققان دانشگاه گوتنبرگ دو مقاله جعلی درباره یک بیماری پوستی ساختگی منتشر کردند و هوش مصنوعی نه تنها این بیماری را تأیید کرد، بلکه مقالات دیگری نیز بر اساس اطلاعات نادرست این بیماری به چاپ رسیدند.
دکتر «جیمی رابرتسون»، استادیار جراحی در دانشگاه هاروارد، تأکید دارد که هرچند هوش مصنوعی میتواند کارهایی مانند کدنویسی و تحلیل دادهها را سریعتر انجام دهد، اما وابستگی بیش از حد به آن، میتواند به صحت علمی لطمه بزند. او هشدار میدهد که دادههای عمومی و توهمات آماری ناشی از هوش مصنوعی در حال تاثیرگذاری منفی بر دانش پزشکی هستند.
سرمقاله نیچر بر این نکته تأکید کرده که برای پیشرفتهای بعدی در زمینه هوش مصنوعی، نیاز به یک چارچوب ارزیابی دقیق وجود دارد. تا زمانی که معیارهای روشنی برای تعریف «تأثیر بالینی» وجود نداشته باشد، استفاده از این ابزارها همچنان یک ریسک جدی برای سلامت انسانها محسوب خواهد شد.
