在 Ubuntu 22.04 上安装 Ollama

在 Ubuntu 22.04 上安装 Ollama 可通过一键脚本完成,支持 Llama 3、Qwen 等主流大模型本地运行。安装后可通过命令行下载并运行模型,亦可配置为局域网访问,配合 Docker 部署 Open WebUI 实现图形化交互。支持模型管理、服务自启与灵活卸载,兼顾性能与易用性,是本地部署大语言模型的高效方案。

在 Ubuntu 22.04 上 Ollama 怎么修改模型目录

在 Ubuntu 22.04 上通过 systemd 管理 Ollama 服务时,可利用 `OLLAMA_MODELS` 环境变量自定义模型存储路径。需先停止服务,创建目标目录并设置权限,再使用 `systemctl edit ollama` 添加环境变量配置,最后重新加载并启动服务。验证可通过 `systemctl show` 检查环境变量生效情况,并通过拉取模型确认路径正确。注意目录权限及用户归属,若需迁移已有模型,需手动复制数据。

Ollama 配置永久存活模型,不会5分钟不使用卸载

在 Ollama 中,可通过设置 `keep_alive` 为 `-1` 实现特定模型(如 qwen3:32b)永久驻留显存。推荐通过 API 请求直接启用,无需重启服务,影响范围精准。也可通过环境变量全局生效,或在代码中控制。使用 `ollama ps` 可查看模型驻留状态,需释放时可设为 `0`。该方法兼顾灵活性与资源管理,适合对响应速度有要求的场景。