共 22 篇文章
基于 Ubuntu 22.04 与双 RTX 4090 显卡环境，采用官方 GPU SDK Docker 镜像部署 FunASR 语音识别服务，每卡独立容器运行并经 Nginx 负载均衡，全链路使用明文 WebSocket。通过挂载共享模型目录实现高效复用，实测 13 秒音频离线转写耗时仅 0.87 秒（RTF ≈ 0.065），单卡可支撑 20~30 路并发，双卡组合支持百路级高并发。关键点包括禁用特权模式保障 GPU 隔离、正确配置 `--certfile 0` 实现明文通信、避免容器重建导致模型丢失，并针对 C# 等客户端明确 offline 模式下以带 text 的消息为最终结果的处理逻辑。适用于移动端录音转
在RTX 4090 48GB显存环境下部署Gemma 4 31B模型，需选用AWQ 4-bit或INT8量化版本，避免使用GGUF格式。推荐通过ModelScope下载HuggingFace格式的量化模型，并配置阿里云或DaoCloud镜像加速以解决国内拉取慢的问题。部署时需确保挂载路径与容器内路径一致，命令行避免使用续行符，端口映射与服务端口需匹配，量化参数必须与模型格式对应。最终采用vLLM官方镜像，配合合理内存与并发参数，可实现长上下文支持与稳定推理，适用于本地大模型部署及多轮对话场景。
在 Ubuntu 24.04 上安装 OpenClaw 需先通过 NodeSource 仓库升级至 Node.js 22 或更高版本，确保环境兼容性。随后使用 npm 全局安装 OpenClaw，通过内置向导完成网关配置、工作区创建及 Telegram、WhatsApp 等通信渠道的集成。配置完成后，可启动网关服务并通过命令行或聊天工具与 AI 助手交互。建议运行 `openclaw doctor` 检查配置安全，并定期更新以获取最新功能与修复。
在 setuptools ≥70.0.0 版本中，`pkg_resources` 模块已被正式移除，导致依赖该模块的工具（如 ModelScope SDK）无法正常运行。问题根源在于当前环境中的 setuptools 版本过高（如 82.0.0）。解决方法是将 setuptools 降级至最后一个包含 `pkg_resources` 的版本 69.5.1，执行 `pip install "setuptools==69.5.1"` 即可恢复兼容性。建议后续向 ModelScope 提交 issue，推动其迁移到 `importlib.metadata` 等现代替代方案以实现长期兼容。
Ubuntu 24.04 用户若无法通过 apt 安装 amdgpu-top，可直接下载作者提供的 .deb 包快速部署。对于需要跨架构支持且界面友好的场景，nvtop 是更优选择，且已内置于官方源。开发者也可通过 Cargo 从源码安装。若遇到权限问题，需将用户加入 video 和 render 组并重新登录生效。根据需求，amdgpu-top 适合深度监控，nvtop 侧重可视化与易用性，rocm-smi 则适用于自动化脚本。
执行 `docker run` 会创建独立容器实例，频繁使用易导致多个重复容器堆积。默认情况下容器停止后仍保留在列表中，占用资源。建议通过 `docker ps -a` 查看所有容器，使用 `docker container prune` 清理已退出实例。为避免重复创建，应首次运行时指定唯一名称（如 `--name my_rocm_work`），后续通过 `docker start` 启动并用 VS Code 直接连接，实现高效、规范的容器管理。
通过 SSH 连接 Linux 宿主机，利用 Docker 容器运行 ROCm 环境并挂载本地代码目录，实现跨平台开发。在 Windows 上使用 VS Code 的 Remote-SSH 与 Dev Containers 插件，可无缝连接至远程容器，享受容器内完整的代码补全与调试能力，同时保留宿主机大容量存储与 GPU 计算资源。通过配置 `devcontainer.json` 可进一步自动化环境搭建，提升开发效率与体验。
该镜像为 AMD 官方提供的 PyTorch 2.9.1 环境，基于 ROCm 7.2 与 Ubuntu 24.04，预装完整依赖。通过指定 GPU 权限、共享内存及进程通信参数，可直接运行在支持 ROCm 的 AMD 显卡上。进入容器后，可通过 `rocminfo` 验证硬件连接，使用 Python 测试 `torch.cuda.is_available()` 确认驱动兼容性，并通过张量运算完成性能验证。支持挂载本地代码目录，便于开发调试。针对权限、显存不足或型号不兼容等问题，提供针对性排查方案，确保高效部署深度学习训练环境。
在 Ubuntu 24.04 系统中，`docker pull` 失败通常因 Docker 守护进程不读取终端环境变量所致。推荐通过配置 `/etc/systemd/system/docker.service.d/http-proxy.conf` 文件，为 dockerd 设置 SOCKS5h 代理，实现全局透明代理。若仍不可用，可使用国内镜像加速器（如 docker.xuanyuan.me）替换注册表源。对于无需修改系统配置的场景，可借助 skopeo 工具直接下载镜像并导入。关键点包括确保代理端口开放、开启局域网访问，并优先使用支持 DNS 代理的 socks5h 协议以避免解析污染。
针对 Ubuntu 20.04/22.04/24.04 等系统，解决 Docker 安装与使用中的常见问题，如连接被重置、镜像拉取失败或缓慢。通过配置清华源安装 Docker，结合 DaoCloud 与中科大镜像加速器，显著提升访问稳定性。推荐使用官方 GPG 密钥与国内源配合，确保安装安全可靠。配置 `/etc/docker/daemon.json` 启用镜像加速，避免多源堆叠导致异常。附带常用命令速查表及免 sudo 权限设置，支持快速部署容器化应用。适用于开发、测试及生产环境的高效 Docker 环境搭建。