共 13 篇文章
基于 Ubuntu 22.04 与双 RTX 4090 显卡环境，采用官方 GPU SDK Docker 镜像部署 FunASR 语音识别服务，每卡独立容器运行并经 Nginx 负载均衡，全链路使用明文 WebSocket。通过挂载共享模型目录实现高效复用，实测 13 秒音频离线转写耗时仅 0.87 秒（RTF ≈ 0.065），单卡可支撑 20~30 路并发，双卡组合支持百路级高并发。关键点包括禁用特权模式保障 GPU 隔离、正确配置 `--certfile 0` 实现明文通信、避免容器重建导致模型丢失，并针对 C# 等客户端明确 offline 模式下以带 text 的消息为最终结果的处理逻辑。适用于移动端录音转
Ubuntu 24.04 用户若无法通过 apt 安装 amdgpu-top，可直接下载作者提供的 .deb 包快速部署。对于需要跨架构支持且界面友好的场景，nvtop 是更优选择，且已内置于官方源。开发者也可通过 Cargo 从源码安装。若遇到权限问题，需将用户加入 video 和 render 组并重新登录生效。根据需求，amdgpu-top 适合深度监控，nvtop 侧重可视化与易用性，rocm-smi 则适用于自动化脚本。
执行 `docker run` 会创建独立容器实例，频繁使用易导致多个重复容器堆积。默认情况下容器停止后仍保留在列表中，占用资源。建议通过 `docker ps -a` 查看所有容器，使用 `docker container prune` 清理已退出实例。为避免重复创建，应首次运行时指定唯一名称（如 `--name my_rocm_work`），后续通过 `docker start` 启动并用 VS Code 直接连接，实现高效、规范的容器管理。
通过 SSH 连接 Linux 宿主机，利用 Docker 容器运行 ROCm 环境并挂载本地代码目录，实现跨平台开发。在 Windows 上使用 VS Code 的 Remote-SSH 与 Dev Containers 插件，可无缝连接至远程容器，享受容器内完整的代码补全与调试能力，同时保留宿主机大容量存储与 GPU 计算资源。通过配置 `devcontainer.json` 可进一步自动化环境搭建，提升开发效率与体验。
该镜像为 AMD 官方提供的 PyTorch 2.9.1 环境，基于 ROCm 7.2 与 Ubuntu 24.04，预装完整依赖。通过指定 GPU 权限、共享内存及进程通信参数，可直接运行在支持 ROCm 的 AMD 显卡上。进入容器后，可通过 `rocminfo` 验证硬件连接，使用 Python 测试 `torch.cuda.is_available()` 确认驱动兼容性，并通过张量运算完成性能验证。支持挂载本地代码目录，便于开发调试。针对权限、显存不足或型号不兼容等问题，提供针对性排查方案，确保高效部署深度学习训练环境。
在 Ubuntu 24.04 系统中，`docker pull` 失败通常因 Docker 守护进程不读取终端环境变量所致。推荐通过配置 `/etc/systemd/system/docker.service.d/http-proxy.conf` 文件，为 dockerd 设置 SOCKS5h 代理，实现全局透明代理。若仍不可用，可使用国内镜像加速器（如 docker.xuanyuan.me）替换注册表源。对于无需修改系统配置的场景，可借助 skopeo 工具直接下载镜像并导入。关键点包括确保代理端口开放、开启局域网访问，并优先使用支持 DNS 代理的 socks5h 协议以避免解析污染。
针对 Ubuntu 20.04/22.04/24.04 等系统，解决 Docker 安装与使用中的常见问题，如连接被重置、镜像拉取失败或缓慢。通过配置清华源安装 Docker，结合 DaoCloud 与中科大镜像加速器，显著提升访问稳定性。推荐使用官方 GPG 密钥与国内源配合，确保安装安全可靠。配置 `/etc/docker/daemon.json` 启用镜像加速，避免多源堆叠导致异常。附带常用命令速查表及免 sudo 权限设置，支持快速部署容器化应用。适用于开发、测试及生产环境的高效 Docker 环境搭建。
在 Windows 上通过 VS Code 远程连接 Ubuntu 24.04 开发，需先在 Ubuntu 安装并启用 SSH 服务，获取其 IP 地址。在 Windows 端安装 VS Code 及 Remote-SSH 插件，配置 SSH 连接信息后即可建立连接。为提升效率，可生成密钥对并配置免密登录，实现一键连接。远程开发时，所有操作均在 Ubuntu 环境下执行，支持本地编辑、远程编译与插件管理，适用于 Linux 开发、深度学习等场景，兼具便捷性与环境一致性。
在 Ubuntu 24.04 环境下，通过优化内核参数与 Vulkan 驱动，成功在 AMD Ryzen AI Max+ 395（128GB UMA）上运行 98GB 超大模型。关键步骤包括禁用 IOMMU、调整 TTM 与 GTT 内存上限、启用 zswap 压缩，并编译支持 Vulkan 的 llama.cpp 版本。结合 `--no-mmap`、`--ctx-size 81920` 及 `--n-gpu-layers -1` 等配置，实现全模型载入物理内存，突破传统显存限制，验证了 RDNA 3.5 架构在 Linux 下作为百 GB 级 AI 推理平台的潜力。
将 ComfyUI 用于局域网共享，需通过启动参数或配置文件绑定至 `0.0.0.0` 或指定内网 IP，并开放对应端口（如 8188）的防火墙访问。推荐绑定特定 IP 以增强安全性，避免暴露于未授权访问。其他设备可通过浏览器访问 `http://[内网IP]:8188` 进行连接。建议配合 Nginx 基础认证或临时关闭规则，防范潜在风险。