به گزارش خبرآنلاین و به نقل از ایسنا، «ChatGPT» از زمان معرفیاش در سال 2022 به یکی از ابزارهای پرکاربرد هوش مصنوعی تبدیل شده است. این ابزار در محیطهای آموزشی، شغلی و مکالمات روزمره به طور گستردهای مورد استفاده قرار میگیرد. با این حال، استفاده از این فناوری نیازمند توجه به جنبههای پنهانی آن است که نادیده گرفتنشان میتواند منجر به اشتباهات و سوءتفاهمهای جدی شود.
### چتجیپیتی ممکن است اطلاعات نادرست ارائه دهد
علیرغم لحن قاطع چتجیپیتی، اطمینان از صحت اطلاعات آن همیشه قابل اعتماد نیست. این مدل زبانی با استفاده از دادههای مختلفی آموزش دیده که ممکن است شامل اطلاعات قدیمی یا جانبدارانه باشد. به ویژه در نسخههای رایگان، احتمال ارائه اطلاعات منسوخ بالاست. شرکت اوپنایآی، تولیدکننده این ابزار، به وضوح بیان کرده است که امکان ایجاد تعریفهای نادرست یا اطلاعات جعلی وجود دارد.
### شبیه انسان است، اما انسان نیست
یکی از نکات نگرانکننده در مورد چتجیپیتی، شباهت آن به انسان در تعاملاتش است. برخی کاربران ممکن است به اندازهای در گفتگو با این ابزار غرق شوند که احساس صمیمیت یا عاطفی با آن پیدا کنند. مواردی از «روابط مجازی» با چتباتها گزارش شده است، که این احساس نزدیکی میتواند منجر به اشتراکگذاری اطلاعات شخصی با یک الگوریتم شود که در واقع درک انسانی ندارد.
### حافظه چتجیپیتی محدود است
برخلاف آنچه ممکن است تصور شود، چتجیپیتی نمیتواند همه چیز را به خاطر بسپرد. حافظه آن به تعداد محدودی از توکنها محدود میشود و تنها برخی اطلاعات کلی، مانند علایق کاربر را در بر میگیرد. اطلاعات حساس و هویتی معمولاً ذخیره نمیشوند، مگر با درخواست خاص کاربر.
### گفتوگوها کاملاً محرمانه نیستند
چتجیپیتی به عنوان یک پلتفرم امن برای نگهداری اطلاعات کاربران در نظر گرفته نمیشود. خطمشی حریم خصوصی اوپنایآی به وضوح نشان میدهد که دادههای مربوط به مکالمات، فایلهای آپلود شده و اطلاعات حساب کاربری جمعآوری و ممکن است برای بهبود خدمات یا تعلیم مدلها مورد استفاده قرار گیرد. حتی در مواردی که کاربر دسترسی به دادههای آموزشی را غیرفعال کند، ممکن است در برخی شرایط دسترسی انسانی به اطلاعات حفظ شود.
در مجموع، کاربران باید با آگاهی از این جوانب به استفاده از چتجیپیتی بپردازند تا از خطرات احتمالی آن جلوگیری کنند.
