2080Ti部署YI-34B大模型 xinference-oneapi-fastGPT本地知识库使用指南
是罗小饭2024.01.3013 分钟1.7 万 播放2 弹幕
编辑手记 · 大模型读完弹幕后的判断
完整链路实操，硬件改装与显存约束讲得具体，可复现性强
2080Ti 22G显存部署YI-34B，串联Xinference、OneAPI与FastGPT搭建本地知识库
- 适合谁
- 想本地部署大模型的开发者
- 前置
- Linux、Docker、LLM推理基础
- 难度
- 中等 · ●●●○○
- 时效
- 有时效 · 部分工具已变
- 类型
- 教程