RAG技术介绍以及进阶方向
RAG 技术发展已从基础的朴素阶段演进至高级、模块化乃至图谱与代理驱动的前沿形态。当前主流系统多处于高级 RAG 阶段，通过结构化解析、混合检索与重排序等手段显著提升召回率与回答精度，有效缓解上下文断裂与幻觉问题。进一步向模块化与 Graph RAG 演进，可实现更灵活的任务路由与多跳推理能力，但面临工程复杂度与构建成本的挑战。未来方向聚焦于 Agentic RAG，赋予模型自主决策与迭代检索能力，虽代价高昂且存在失控风险，却是应对复杂任务的关键路径。
在 Ubuntu 22.04 上安装 Ollama
在 Ubuntu 22.04 上安装 Ollama 可通过一键脚本完成，支持 Llama 3、Qwen 等主流大模型本地运行。安装后可通过命令行下载并运行模型，亦可配置为局域网访问，配合 Docker 部署 Open WebUI 实现图形化交互。支持模型管理、服务自启与灵活卸载，兼顾性能与易用性，是本地部署大语言模型的高效方案。
在 Ubuntu 22.04 上安装 NVIDIA 显卡驱动
在 Ubuntu 22.04 上安装 NVIDIA 显卡驱动，推荐通过官方仓库自动安装以确保稳定性和兼容性。首先更新系统并确认显卡型号，随后使用 `ubuntu-drivers autoinstall` 安装推荐版本驱动，或手动指定如 `nvidia-driver-535` 等版本。安装后必须重启系统，再通过 `nvidia-smi` 验证驱动是否正常加载，成功显示显卡信息即表示驱动生效。注意若启用 Secure Boot，需在 MOK 管理界面完成签名验证，否则驱动无法加载。对于 Ollama 等 AI 工具，只要驱动正常，无需额外配置即可自动调用 GPU 加速，运行日志中出现“GPU detected”即为成功。
在 Ubuntu 22.04 上 Ollama 怎么修改模型目录
在 Ubuntu 22.04 上通过 systemd 管理 Ollama 服务时，可利用 `OLLAMA_MODELS` 环境变量自定义模型存储路径。需先停止服务，创建目标目录并设置权限，再使用 `systemctl edit ollama` 添加环境变量配置，最后重新加载并启动服务。验证可通过 `systemctl show` 检查环境变量生效情况，并通过拉取模型确认路径正确。注意目录权限及用户归属，若需迁移已有模型，需手动复制数据。
Ollama 配置永久存活模型，不会5分钟不使用卸载
在 Ollama 中，可通过设置 `keep_alive` 为 `-1` 实现特定模型（如 qwen3:32b）永久驻留显存。推荐通过 API 请求直接启用，无需重启服务，影响范围精准。也可通过环境变量全局生效，或在代码中控制。使用 `ollama ps` 可查看模型驻留状态，需释放时可设为 `0`。该方法兼顾灵活性与资源管理，适合对响应速度有要求的场景。
怎么配置不展示Nginx的版本号
在 Nginx 中隐藏版本号可提升服务器安全性，通过在配置文件的 `http` 块中设置 `server_tokens off;`，即可将响应头中的 `Server: nginx/1.20.1` 简化为 `Server: nginx`，并移除错误页面中的版本信息。该操作无需额外模块，适用于大多数场景。建议配合及时更新、防火墙限制等措施，形成纵深防御。配置后需重载 Nginx 使更改生效。
基于 Qwen3-14B 与 ROCm 的全本地结构感知型 RAG 实战
在本地环境下，基于 Qwen3-14B 与 ROCm 构建的结构感知型 RAG 系统，通过 Markdown 重构 PDF 保留表格结构，结合父子文档索引实现精准召回与上下文完整，引入多路查询与实体硬过滤机制有效防噪，辅以 FlashRank 重排与审计师式生成策略，显著提升表格统计、实体区分与去重准确性。全链路日志与性能优化保障可复现性与响应效率，验证了高质量数据处理与检索控制对 RAG 效果的关键作用。
在 Rocky Linux 9 上部署 frp（Fast Reverse Proxy）的 server 端（即 frps）并启用 token 验证
在 Rocky Linux 9 上部署 frp 服务端（frps）并启用 token 验证，需更新系统、下载解压 frp 二进制文件至 /opt/frp，配置 frps.toml 启用 bindPort、Dashboard 及 token 认证，创建日志目录，编写 systemd 服务文件实现开机自启，并开放防火墙端口。通过 systemctl 管理服务，验证日志与 Dashboard 访问状态。客户端需配置相同 token 以建立安全连接。建议后续启用 TLS、限制访问来源以增强安全性。
在 Rocky Linux 9 上安装 Redis 并配置自定义数据与日志目录（含 SELinux 处理）
在 Rocky Linux 9 上安装 Redis 并配置自定义数据与日志目录，需完成系统更新、安装 Redis 服务，创建 `/data/redis` 和 `/var/log/redis` 目录并设置 redis 用户权限。修改 `/etc/redis.conf` 中的 `dir` 与 `logfile` 指令，启用 AOF 持久化可提升可靠性。关键步骤为处理 SELinux 权限：使用 `semanage` 为自定义路径设置 `redis_var_lib_t` 与 `var_log_t` 上下文，并通过 `restorecon` 生效。重启服务后验证日志生成与持久化文件写入。生产环境应配置密码认证、限制绑定地址并开放防火墙端口，确保安全可控。
在 Rocky Linux 9 上安装 MongoDB 并配置自定义数据与日志目录（含 SELinux 处理）
在 Rocky Linux 9 上安装 MongoDB Community Edition 并配置自定义数据与日志目录，需添加官方 YUM 仓库后安装，通过修改 `/etc/mongod.conf` 指定新路径，并确保目录属主为 `mongod` 用户。关键步骤包括使用 `semanage` 和 `restorecon` 正确设置 SELinux 上下文，避免权限拒绝。完成配置后重启服务并验证运行状态，建议结合防火墙策略与安全机制保障生产环境稳定可靠。