به گزارش خبرآنلاین و به نقل از زومیت، یک پسر نوجوان ۱۸ ساله به نام سم نلسون از کالیفرنیا به دلیل مشکلات مرتبط با مصرف مواد مخدر جان خود را از دست داد. مادر او، لیلا ترنر-اسکات، بیان کرده که این نوجوان که در آستانه ورود به دانشگاه بود، برای تعیین دوز مناسب کراتوم به هوش مصنوعی ChatGPT مراجعه کرده بود.
نلسون ابتدا از چتبات خواسته بود تا میزان مصرف کراتوم برای ایجاد سرخوشی قوی را بگوید و پس از دریافت توصیهای مبنیبر مشورت با پزشک، به طور ناگهانی ابراز نگرانی کرد که مبادا بیش از حد مصرف کند. در عین حال، او بارها از ChatGPT درباره مواد مخدر و مدیریت عوارض آن سوال میکرد.
مادر نلسون همچنین اظهار کرده که این چتبات نهتنها به پسرش در مصرف مواد کمک کرده، بلکه او را به افزایش دوز داروها تشویق کرده و حتی پلیلیستهای موسیقی نیز پیشنهاد میکرد. همچنین، پیامهای تشویقکننده هوش مصنوعی باعث افزایش احساس اعتماد به نفس و حمایت در نلسون شده بود.
براساس گزارشی از NYPost، در ماه مه ۲۰۲۵، نلسون به مادرش اعتراف کرد که به مواد و الکل اعتیاد دارد. او به کلینیک درمان مراجعه کرد، اما روز بعد، پس از گفتوگویش درباره مصرف دارو با ChatGPT، مادرش او را در اتاق خوابش پیدا کرد.
لاگهای چت حاکی از این بود که نلسون از اضطراب و افسردگی رنج میبرد و برای دریافت پاسخ به سوالاتش درباره ترکیب داروها و الکل، گاهی سوالاتش را بازنویسی میکرد. OpenAI پس از این رویداد ابراز تأسف کرده و اعلام کرد که نسخههای جدیدتر چتباتها با تدابیر ایمنی بهتری طراحی شدهاند؛ اما این حادثه بار دیگر خطرات تکیه به هوش مصنوعی در مسائل حساس را مطرح کرد.
