### رشد استفاده از هوش مصنوعی و نکات امنیتی آن
تینا مزدکی_ هرش وارشنی، مهندس امنیت هوش مصنوعی در گوگل، بر اهمیت ابزارهای هوش مصنوعی در زندگی روزمره تأکید میکند. او میگوید که این ابزارها در کارهایی مانند تحقیق عمیق، کدنویسی و جستجوی آنلاین به کمک کاربران میآیند. با این حال، به دلیل موقعیت شغلیاش در تیم امنیت، او از نگرانیهای مربوط به حریم خصوصی بسیار آگاه است.
وارشنی، که در گذشته در تیم حفظ حریم خصوصی گوگل فعالیت داشته، تصریح میکند که مدلهای هوش مصنوعی برای تولید پاسخهای دقیق به استفاده از دادهها متکی هستند. وی هشدار میدهد که کاربران باید از اطلاعات خصوصی خود محافظت کنند تا افراد بدخواه مانند مجرمان سایبری به آنها دسترسی پیدا نکنند. این مهندس امنیت چهار عادت را برای محافظت از دادهها هنگام استفاده از هوش مصنوعی ارائه میدهد:
### ۱. رفتار با هوش مصنوعی مانند کارت پستال عمومی
وارشنی تأکید میکند که گاهی دیدگاه نادرست از صمیمت با هوش مصنوعی موجب میشود کاربران اطلاعات حساسی را به اشتراک بگذارند که در حالت عادی هرگز این کار را نمیکنند. او هشدار میدهد که هرگز نباید اطلاعاتی مانند شماره کارت اعتباری، آدرس منزل و سوابق پزشکی را با چتباتهای عمومی به اشتراک گذاشت.
چتباتها میتوانند اطلاعات ارسالشده را برای آموزش مدلهای آتی استفاده کنند و در نتیجه خطر “نشت آموزشی” و نقض دادهها وجود دارد. وی پیشنهاد میکند که کاربران باید با چتباتها به گونهای رفتار کنند که گویا اطلاعاتشان بر روی یک کارت پستال عمومی است.
### ۲. آگاهی از نوع ابزار هوش مصنوعی
وارشنی بر اهمیت شناخت نوع ابزار هوش مصنوعی که استفاده میکنید، تأکید دارد. در حالی که استفاده از ابزارهای عمومی میتواند ریسکهای امنیتی داشته باشد، ابزارهای سطح سازمانی معمولاً بر اساس هزینهی پرداختی، مکالمات کاربران را برای آموزش مدلها استفاده نمیکنند و این موضوع میتواند امنیت بیشتری به همراه داشته باشد.
ادامه مقاله با عنوان “۴ قانون طلایی برای استفاده ایمن از هوش مصنوعی” قابل مطالعه است.
