ATK-DLRK3588开发板deepseek-r1-1.5b/7b部署指南
最近deepseek爆火,当DeepSeek这样的国产大模型部署在RK3588上时,由于RK3588的强大性能支持,同样的模型规模可以得到更强大的推理能力、实时性能以及边缘计算能力。在本篇文章中,我们将一口气教大家从下载模型、转换模型到最终部署deepseek-r1-1.5b和deepseek-r1-7b的模型到正点原子的ATK-DLRK3588上面测试。
1、安装anaconda软件环境
第1小节至第4小节讲解从安装conda环境到转换模型,如果需要想要直接在ATK-DLRK3588开发板体验模型的话请直接移步第5小节-deepseek部署章节。
安装anaconda环境请参考正点原子ATK-DLRK3588资料盘的开发板光盘A盘-基础资料10、用户手册
参与评论
手机查看
返回顶部