通过动态和静态循环缓存降低RISC-V嵌入式AI处理中的指令获取能耗

摘要

本文针对RISC-V嵌入式处理器在AI推理中的能耗问题，提出了动态和静态两种循环缓存架构，分别实现运行时自动检测循环和软件预加载指令块。在NEORV32处理器上的LeNet-5推理评估表明，动态缓存减少48.3%的指令获取和21.5%的总能耗，静态缓存则达到83.3%的获取减少和35.5%的能耗节省。