本文主要介绍 LmStudio 的使用教程以及常见问题。LmStudio允许用户在本地设备上运行大型语言模型,摆脱对云端服务的依赖,具有灵活性高、隐私保护强等优势。
一、Lmstudio 简介
Lmstudio 是一款功能强大的桌面应用程序,核心功能丰富。它支持离线运行大型语言模型,无需网络连接,就能进行文本生成、对话交互等操作,保障了数据安全和隐私。用户既可以通过内置聊天界面与模型对话,也能通过本地设置的 OpenAI 兼容服务器调用模型 API,便于将模型集成到其他应用中。此外,它支持从 Hugging Face 模型库下载多种兼容模型文件,如热门的 Llama 2、Orca、Vicuna,以及 DeepSeek 系列模型 。
Lmstudio 支持的平台包括拥有支持 AVX2 处理器的 Windows 系统、搭载 macOS 13.6 或更新版本的 Apple Silicon Mac(M1/M2/M3)系统,以及拥有支持 AVX2 处理器的 Linux PC(目前为测试版)。硬件上建议至少配备 16GB 的 RAM,PC 建议至少拥有 6GB 的 VRAM,还需要支持 AVX2 指令集的处理器。
二、安装步骤
(一)下载安装包
- Windows 系统:访问 Lmstudio 官方网站https://lmstudio.ai/ ,在下载页面点击 “Windows” 选项下载.exe 格式安装包。若官网下载慢,可在知名软件下载平台搜索下载,但要注意来源正规。
- macOS 系统:在官网点击 “Mac” 选项,下载.dmg 格式安装包,下载后在 “下载” 文件夹找到文件准备安装。
- Linux 系统:官网提供以 AppImage 形式分发的安装文件,适用于拥有支持 AVX2 处理器的 Linux PC 。在官网下载页面点击 “Linux” 选项下载,需注意目前 Linux 版本为测试版。
(二)安装过程
- Windows 系统:下载完成后,找到.exe 安装文件双击运行。若系统提示 “Windows 保护你的电脑”,点击 “更多信息”,选择 “仍要运行”。在安装向导界面,点击 “Next” 开始安装,阅读许可协议并勾选接受,选择安装路径,可保持默认或自定义,选择开始菜单文件夹,可选择是否创建桌面快捷方式,最后点击 “Install” 开始安装,完成后点击 “Finish” 启动 Lmstudio。
- macOS 系统:下载完成后,打开 “下载” 文件夹,双击.dmg 文件,将 “Lmstudio” 图标拖拽到 “Applications” 文件夹中安装。安装完成后,在 “Applications” 文件夹中找到图标双击启动,若提示 “无法打开,因为无法验证开发者”,前往 “系统偏好设置”-“安全性与隐私”,在 “通用” 选项卡中点击 “仍要打开” 即可。
- Linux 系统:下载完成后,打开终端,进入下载文件所在目录,赋予 AppImage 文件可执行权限,输入 “chmod +x LM_Studio-0.2.XX.AppImage” ,然后运行安装文件 “./LM_Studio-0.2.XX.AppImage” 启动 Lmstudio。
三、使用方法
- 启动 Lmstudio:安装完成后,打开应用程序。
- 浏览或搜索模型:在主界面,可以探索推荐的特色模型,也能使用搜索栏查找特定模型,比如搜索 DeepSeek 相关模型。
- 下载模型:选择与自己系统兼容的模型(Lmstudio 会提供兼容性预估),点击下载。以 DeepSeek 模型为例,如果要下载 DeepSeek Coder V2 Lite,可在搜索栏输入模型名称,找到对应模型后点击下载;也可以通过 Lmstudio 的开发者命令行工具(lms)下载,先运行 “npx lmstudio install-cli” 获取 lms,再执行 “lms get deepseek - coder - v2” 。
- 加载模型:下载完成后,点击左侧的 “chat” 图标(聊天气泡),在顶部的下拉菜单中选择并加载已下载的模型。
- 配置设置(可选):根据需求调整设置,如开启 GPU 加速,Mac 用户还能启用 “Apple metal GPU” 提升性能。
- 开始聊天:模型加载完成后,在聊天界面输入消息,即可与模型进行交互。
- 使用其他功能(可选):比如探索 “playground” 模式,可同时运行多个模型;或者使用本地服务器选项进行 API 访问。
四、常见问题
- 模型下载失败:可能是网络问题,尝试更换网络环境,或者使用国内镜像站点,如 “hf-mirror.com ” ,替换默认的 “Hugging Face” 地址。也有可能是软件设置问题,若无法访问 Hugging Face,可使用文本编辑器全局替换软件内所有 “huggingface.co” 为 “hf-mirror.com” (约替换 500 处)。如果还是失败,确认镜像替换完成并重启软件,也可以尝试手动从镜像站下载 GGUF 文件并放入模型目录(默认路径: ~/Documents/LM Studio)。
- 模型列表为空:确认是否完成镜像替换并重启软件,若问题依旧,尝试重新安装 Lmstudio。
- 响应速度慢:可以选择量化版本(如 Q4_K_M)减少显存占用,在 “Hardware Settings” 中增加 GPU 处理层数,也可以根据 CPU 核心数合理调整 CPU 线程 。
- 安装过程报错:Windows 系统下,安装过程中若杀毒软件拦截,需先关闭杀毒软件再进行安装;macOS 系统下,若提示无法验证开发者,按上述方法在系统偏好设置中操作即可。Linux 系统下,确保下载的 AppImage 文件权限设置正确,若有其他报错,可查看终端输出的错误信息进行排查。
- 界面显示不全或加载失败:把Lmstudio设置里的代理proxy关掉即可或者使用网络工具加速。