游乐游手机版
首页/AI热点日报/热点详情

RK3576开发板部署Deepseek实现AI对话教程

类型:热点整理2026-07-06
前不久以299元的价格入手了一块鲁班猫3开发板,具体来说是标准2GB内存、0GB存储的RK3576型号。近期DeepSeek热度持续攀升,按照计算公式,运行一个1 5B参数的大模型至少需要0 9GB的DDR空间——目标很清晰,但前提是先提升这只“猫”的硬件配置。 嵌入式工程师的动手信条:能自己动手解

前不久以299元的价格入手了一块鲁班猫3开发板,具体来说是标准2GB内存、0GB存储的RK3576型号。近期DeepSeek热度持续攀升,按照计算公式,运行一个1.5B参数的大模型至少需要0.9GB的DDR空间——目标很清晰,但前提是先提升这只“猫”的硬件配置。

嵌入式工程师的动手信条:能自己动手解决的绝不花钱买。于是从另一块板子上拆解了一颗4GB的LPDDR4X颗粒。查阅了鲁班猫3的原理图,板载DDR采用的是国产兼容LPDDR4和LPDDR4X的颗粒,默认VDDQ1为0.6V,运行在LPDDR4X模式下。

颗粒数据手册中标注的电压参数。

原理图中DDR部分的电路设计。

电源控制部分采用了兼容设计:贴装Q9不贴R110即为LPDDR4,贴装R110不贴Q9则为LPDDR4X。

准备工作:使用钢网涂锡植球,选用183度低温锡膏,搭配350度热风枪,中档风速开始操作。

这块板的DDR布局紧邻排针,拆焊时需格外小心,避免排针熔化。原厂采用高温锡,需设置400度三档。待锡融化后,用镊子轻轻一拨,芯片随即松动,顺利取下。烙铁350度,添加少许助焊剂,焊盘很快就被拖平。

将植好球的芯片放置到位,低温锡用350度即可完成焊接。焊完后上电,一次成功点亮。鲁班猫3从“哈基米”进化成了“汤姆”——配置由2+0升级为4+128。

模型部署与NPU加速

硬件搞定后,下一步目标是让DeepSeek在NPU上顺利运行。参照鲁班猫的RKLLM教程,先从Git仓库克隆RK官方的airockchip代码,安装conda,配置PC端工具环境。考虑到仅有4GB内存,决定先用DeepSeek 1.5B版本进行练习。

下载模型,利用官方脚本完成量化操作。量化过程中会遇到各种有趣的问题,同时可以观察PC资源占用情况——再针对这些问题对模型进行适当微调。

接着修改NPU模型参数,启动模型转换,生成rkllm文件,然后直接通过scp发送到开发板上。

板端使用make编译Demo源码,加载rkllm模型。运行后效果超出预期——文字快速生成,有了NPU的助力,CPU被解放出来处理其他任务。简单编写一个Rust斐波那契数列,模型都能完美解答,各种边界情况考虑得十分周全。在这样小小的芯片上,以如此速度运行如此神奇的功能,仿佛机器真的拥有了生命力。

RK3576目前是体验嵌入式AI大模型时性价比最优的选择之一。成功部署后,直接进行对话,比许多互动方式更有趣味。感兴趣的话,不妨一起来尝试。

来源:https://www.53ai.com/news/zhinengyingjian/2025040505923.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。