به گزارش خبرآنلاین و به نقل از زومیت، اجرای هوش مصنوعی بر روی رایانههای شخصی که بهعنوان «هوش مصنوعی محلی» شناخته میشود، برخوردار از مزایای مهمی است. از جمله، حفظ حریم خصوصی کاربران به دلیل عدم انتقال دادهها از سیستم شخصی، کاهش هزینههای مالی ماهانه و همچنین افزایش سرعت عملکرد به دلیل عدم نیاز به اینترنت.
این رویکرد بهواسطه انتشار مدلهای متنباز و قدرتمند مانند Llama ۳ از شرکت متا و Mistral امکانپذیر شده است. این مدلها با قابلیت پردازش قوی، اکنون روی سختافزارهای خانگی قابل اجرا هستند.
با این حال، برای استفاده بهینه، به ویژه با مدلهای بزرگتر، به رایانه با حداقل ۱۶ گیگابایت حافظه رم و کارت گرافیک با حداقل ۸ گیگابایت حافظه ویدیویی نیاز است.
### بهترین ابزارهای هوش مصنوعی متنباز
ابزارهای زیر هر کدام بهصورت متفاوتی به کاربران در اجرای محلی مدلهای هوش مصنوعی کمک میکنند و برای استفاده از هر کدام نیاز به مراجعه به مستندات آنهاست.
#### Ollama: سریعترین گزینه برای شروع
Ollama بهگونهای طراحی شده است که کار با مدلهای هوش مصنوعی را آسان کند. این ابزار به کاربران اجازه میدهد تنها با یک دستور در ترمینال یا چند کلیک، مدلهای معروف مانند Llama ۳ را دانلود و اجرا کنند. Ollama به ویژه برای توسعهدهندگان مناسب است و جهت ورود به وبسایت آن، نیاز به استفاده از ابزارهای عبور از تحریم وجود دارد.
#### Jan.ai: تجربهای مشابه با ChatGPT بهصورت آفلاین
Jan با تمرکز بر کاربران معمولی، جایگزینی متنباز برای ChatGPT ارائه میدهد. این برنامه محیط کاربری جذابی دارد و از موتور پردازش داخلی خود برای ارائه خدمات استفاده میکند. همچنین میتواند به سرویسهای آنلاین متصل شود و قابلیت تحلیل اسناد را دارد.
#### AnythingLLM: ساخت دستیار هوشمند بر اساس اسناد شخصی
این ابزار توانایی خاصی در خواندن و درک اسناد شخصی دارد و به کاربران اجازه میدهد فایلهایشان را بارگذاری کرده و دستیار هوشمند بسازند که تنها بر اساس آن دادهها عمل میکند. این روش RAG نامیده میشود و برای تیمهای کسبوکار بسیار کاربردی است.
#### LocalAI: موتور پردازشی جامع برای توسعهدهندگان
LocalAI به عنوان یک مدل پردازشی انعطافپذیر، توسعهدهندگان حرفهای را هدف قرار داده است. این ابزار از طریق API عمل میکند و با ابزارهای OpenAI کاملاً سازگار است. علاوه بر مدلهای متنی، این برنامه از مدلهای تولید تصویر و صدا نیز پشتیبانی میکند.
از آنجا که دسترسی به اینترنت جهانی فعلاً مسدود است، کاربران میتوانند این مدلها را از وبسایتهای داخلی دانلود کنند.
انتخاب ابزار مناسب به نیاز کاربران بستگی دارد. Ollama گزینهای عالی برای شروع سریع، Jan.ai بهعنوان یک گزینه خصوصی برای کاربران عادی، AnythingLLM برای ساخت دستیار هوشمند و LocalAI برای توسعهدهندگان حرفهای است.
