Unraid部署Deepseek-R1模型全攻略（含A卡、N卡加速以及纯CPU环境）
外来客 • 2026-08-19 20:07:56
声明：本文为对公开视频内容的摘要整理，
未经本站独立核实，可能与原视频存在出入，不代表本站立场、观点或建议；
观点与版权归原作者及原平台所有。
如涉及版权问题，请联系我们，核实后立即删除。
[ 免责声明 ]
🛠️ 部署前提与硬件环境
- 系统要求：Unraid 7.0 版本，需具备基础 NAS 操作知识。
- 硬件配置：演示机器为 i5-13500T 处理器，32GB 内存。
- 显卡支持：
- N卡：NVIDIA Tesla P4（8GB 显存）。
- A卡：AMD RX 6600。
- 纯 CPU：无独立显卡环境。
- 核心工具：Ollama（大模型运行环境）、Open Web UI（交互界面）。
🚀 N卡环境部署步骤
- 驱动安装：在应用中心安装 NVIDIA Driver，安装后需重启 Docker 服务以确保驱动被调用。
- 状态监控：安装 GPU Statistics 插件，在仪表盘配置显卡以查看运行状态。
- 容器部署：
- 在应用市场搜索并安装官方 Ollama 套件。
- 默认存储路径为 AppData，网络模式为 Bridge，端口映射 11434。
- 高级视图中保留 `GPUs=all` 参数以调用 N卡。
- 模型测试：
- 下载 DeepSeek R1 7B 模型。
- 生成 1000 字小说测试，显存占用拉满，速度较快，适合简单资料处理。
🧠 纯 CPU 环境部署要点
- 配置差异：安装 Ollama 套件时，在高级视图的额外参数中删除所有 GPU 调用参数（如 `GPUs=all`）。
- 性能表现：
- 7B 模型生成速度约为 7-8 Token/秒，仅为 Tesla P4 的三分之一左右。
- 优势在于可使用廉价内存替代显存，32GB 内存可运行需 20GB 显存的 32B 蒸馏模型，但速度较慢。
- 适用场景：对速度要求不高，或希望利用大内存运行更大参数量级模型的用户。
🎮 A卡环境部署与兼容性
- 驱动与监控：Unraid 无需额外安装 A卡驱动，但需安装 Radeon Top 插件以在仪表盘监控显卡状态。
- 镜像选择：Ollama 容器镜像需指定为 `rocm` 版本（如 `ollama:rocm`）以支持 A卡。
- 设备直通：
- 删除 N卡相关参数。
- 添加设备直通：`/dev/dri` 和 `/dev/kfd`。
- 兼容性处理：
- 若日志显示 `AMD GPU is low supported` 或 `Library=CPU`，需手动指定 GPU 架构。
- 添加变量 `HSA_OVERRIDE_GFX_VERSION`，RX 6600 对应值为 `10.3.0`。
- 性能测试：RX 6600 运行 7B 模型速度达 37 Token/秒，效率较高。
💬 Open Web UI 交互界面部署
- 容器配置：
- 安装 Open Web UI 容器，端口映射修改为 3000 以防冲突。
- 设置 Ollama API 地址为 Ollama 容器的内网 IP（如 `172.17.0.2:11434`）。
- 功能特性：
- 支持多用户管理，可创建不同账号存储独立聊天记录。
- 支持调整上下文长度、温度参数以优化输出。
- 支持在界面内直接下载和部署 Ollama 官方模型（如 Qwen 1.5B）。
- 其他工具：可通过 Page Assist（Chrome 插件）或 Chatbox 等客户端调用本地 API，无需在服务器端部署额外软件。
⚖️ 模型能力评估与局限性
- 蒸馏模型局限：
- 除 671B 全量模型外，其他均为蒸馏模型。
- 7B 模型智商较低，逻辑分析能力弱，常出现理解偏差或计算错误（如 UPS 备电时间计算）。
- 14B 模型有所好转但仍不可靠，32B 模型在复杂计算中仍可能出错。
- 全量模型优势：
- 671B 全量模型在指令遵循和复杂逻辑计算（如考虑转换效率的 UPS 计算）上表现精准。
- 适用建议：
- 7B 模型适合简单文本生成、小程序编写等轻量级任务。
- 严肃生产环境需评估硬件是否支持更大参数量级模型，否则建议优先使用云端 API。
- 本地部署主要优势在于数据隐私保护和减少对外部 API 的依赖。
👤 同一博主
🧭 类似博主
0 条评论
发表评论
请先 登录 后参与讨论。