今天分享的是:AIGC专题:地瓜机器人RDK系列部署生成式AI模型
报告共计:25页
RDK系列是基于地瓜智能芯片的机器人开发套件,包含多种产品,可助开发者搭建机器人原型。其模型部署涉及多方面内容,人工智能不断发展,自然语言处理涵盖多种任务,大语言模型有基于transformer和RNN两类,基于transformer的模型在NLP任务中表现出色,而RWKV模型在架构上改进了Transformer,引入Time Mixing和Channel Mixing机制,具有推理速度快、内存占用低等优势。地瓜工具链包含问题定义、数据准备、模型选择与开发、训练调优等环节,模型量化可优化性能,不同量化方案有不同效果。在RDK上进行模型部署时,要考虑多种因素选择合适模型,目前已展示了端侧RWKV - V5、Llama 1B及云端Qwen多模态等模型效果,未来有望在更多机器人应用场景中发挥作用,推动机器人在智能会议、家居、教育等领域的发展,提升机器人智能化水平和服务能力,实现更多复杂功能,为用户带来更好体验。
以下为报告节选内容
展开剩余75% 发布于:广东省