**شکایت از OpenAI به دلیل مشاوره نادرست چتبات ChatGPT**
به گزارش خبرگزاریها، در دادگاه عالی شهرستان سانفرانسیسکو، فردی با نام اسکات وینترز، کشیش ۵۵ ساله از فلوریدا، از شرکت OpenAI که سازنده چتبات ChatGPT است، شکایت کرده است. وی به دلیل حملات مکرر سرگیجه، به جای مراجعه به پزشکان، به هوش مصنوعی ChatGPT-۴o مراجعه کرد. این مدل به او اعلام کرد که نیازی به درمان فوری ندارد و از او خواست تا ضمن استراحت بر روی صندلی راحتی، فقط در صورت وخیمتر شدن شرایط به پزشک مراجعه کند.
با گذشت چند هفته، وضعیت وینترز به شدت بدتر شده و او با نشانههایی چون تشنج و لختههای خونی در ریهها به بیمارستان منتقل شد و تحت جراحی اورژانسی قرار گرفت. وکلای او در دادخواست اعلام کردهاند که ChatGPT بهصورت غیرمجاز مشاوره پزشکی ارائه داده و کاربر را از مراجعه به پزشک منصرف کرده است. شاکی خواستار تغییر کدنویسی ChatGPT-۴o یا توقف کامل این مدل به دلیل خطرات آن شده است. وکیل او این وضعیت را «بحران عمومی» توصیف کرده و بیان کرده است که اگر هوش مصنوعی جای پزشک باشد، میتواند مصداق واضحی از قصور پزشکی باشد.
این خبر حاکی است که وینترز به دلیل نارضایتی از مشاوره پزشکان، چند ماه به ChatGPT وابسته بوده و این چتبات به وی اطمینان میداده که خطری وی را تهدید نمیکند. همچنین، مدل هوش مصنوعی با استفاده از عبارات دینی به او میگفت که برای درمان نیاز به استراحت دارد.
جالب است که حتی پس از ترخیص از بیمارستان، ChatGPT از وینترز خواسته است که به توصیههای پزشکان درباره توانبخشی گوش ندهد و به استراحت در منزل ادامه دهد.
همزمان با این شکایت، OpenAI به تازگی از ابزار جدید خود به نام ChatGPT Health رونمایی کرده است که برای مدیریت اطلاعات سلامت طراحی شده و به سیستمهای مختلفی مانند Apple Health و Epic متصل میشود. این شرکت در بیانیهای تأکید کرده که این ابزار هرگز نباید جایگزین مراقبتهای پزشکی باشد و تنها نقش کمکی دارد.
با وجود این تأکیدات، تحقیقات نشان دادهاند که این نوع ابزارها هنوز نیاز به ارزیابیهای ایمنی بیشتری دارند و ممکن است توصیههای غیرضروری در شرایط بحرانی ارائه دهند.
منبع: sfgate
