RISC-V产业生态已经进入快速发展期,随着大量的公司加入到RISC-V研究和生产,基于RISC-V架构的芯片也如雨后春笋般涌入市场。可以预见的是,RISC-V的时代正在到来。
在AI热潮的推动下,RISC-V上面部署AI的需求也越发凸显。但是目前在RISC-V基金会标准协议上还没有统一的AI标准,也没有对应的加速库和推理框架,面对此种越发强烈的需求和困境,基于RISC-V芯片架构进行AI部署与推理也成为了各大芯片以及应用开发公司的重点关注点。
此次合作中,OPEN AI LAB 基于芯来科技的NMSIS-NN计算库,成功开发了语音关键字识别的Demo,该语言Demo以音频文件作为输入,基于KWS关键字识别模型推理出正确的结果。
RISC-V + Tengine的里程碑意义
2020年10月,OPEN AI LAB——专注AI边缘智能计算及应用的公司,携手芯来科技——中国大陆首家专业RISC-V处理器内核IP和解决方案公司,两个科技公司技术团队打破技术边界,强强联合,成功打通了基于RISC-V芯片架构进行无门槛AI部署和推理的这道墙,让基于RISC-V进行AI推理变得高效和便捷。
此次合作中,OPEN AI LAB 基于芯来科技的NMSIS-NN计算库,成功开发了语音关键字识别的Demo,该语言Demo以音频文件作为输入,基于KWS关键字识别模型推理出正确的结果。
此Demo的制作完成标志着Tengine的底层硬件平台成长的更加硬核,在嵌入式低端平台上能同时基于Cortex-M内核和RISC-V内核进行AI的推理,是业界唯一能同时支持此两种处理器内核架构进行推理的推理框架,同时让AI在RISC-V芯片上的推理变得高效可行且便捷,芯片开发者可以通过Tengine无门槛切入RISC-V芯片上AI的推理。
如下是实际项目推理运行的截图,以打印的方式输出推理结果,基于芯来科技的Nuclei Studio IDE工具:
此Demo的测试硬件平台是芯来科技提供的FPGA板卡:(如下图)
关于芯来科技
芯来科技是中国大陆第一家专业RISC-V处理器IP和解决方案公司,持续聚焦RISC-V处理器内核研发,引领RISC-V产业生态。芯来科技已经推出从低功耗到高性能全系列嵌入处理器IP系列产品,具备了高性能、低功耗和易于使用的特点,在性能、面积、功耗、成熟度、价格及开发平台等方面具有优势。芯来科技一直处于中国RISC-V嵌入式处理器研发与产业化的最前列,是首家实现多款RISC-V芯片量产的本土企业,并联合兆易创新推出全球首款基于RISC-V的量产通用MCU。公司是RISC-V基金会银级会员、中国RISC-V产业联盟副理事长单位、中国开放指令生态(RISC-V)联盟会员单位。
关于OPEN AI LAB
开放智能专注边缘智能计算及应用,致力于推动芯片级算力、算法、产品工程化、行业应用等完整产业链的深度协作,加速人工智能产业化部署和场景的边界拓展,赋能场景化细分行业快速实现+AI。为AIoT产业上下游合作伙伴提供端、边、云一体化人工智能基础软硬件开发平台及应用级解决方案。
开放智能与芯来科技的合作为RISC-V生态的发展注入新的活力,让AI在RISC-V架构芯片上的部署变得更加顺畅。