OpenI 启智社区

启智社区,确实给力

项目简介

 OpenI 海藻是鹏城实验室和北京大学联合开发,并贡献到启智平台的一款可配置指令集和微架构的AI开源芯片。

此项目可用于以下三个方面:

01 教育

提供复现已有技术和尝试新技术的基础框架,降低处理器开发的入门门槛

02 新场景

商用AI芯片未必有足够利润动力满足大量碎片化的需求(物联网的特征) ,以开源AI处理器作为基础,赋能小市场针对碎片化需求的定制开发。

03 新算法

现有AI芯片未能优化的计算模式(如图神经网络、结合MLP/LSTM和图计算特征) ,以开源AI处理器作为基础,积累开源的算法部件,赋能新算法的敏捷开发。

开源AI处理器海藻(Varec)的使用流程


海藻(Varec)的使用流程







海藻 (Varec) 项目介绍


Varec 微架构

  • v0.1版约5000行代码
  • 架构级 Load/Execute/Store 模块
  • 系统级 AXI 和 Shell 模块支持 Xilinx 加速卡


Varec 指令集

  •  “宏指令+微操作”两层架构
  •  MEM和EXEC两类宏指令
  • 年底支持多种数据精度表示


指令集:架构和编译的解耦合

  • 编译根据指令性能估算生成指令
  • 架构重新分配资源调整指令性能
  • 重复以上步骤,迭代优化


Varec 编译后端

  • 兼容TVM前端

  • 可根据后端硬件自动生成CPU和加速器指令,以支持多种网络推理

  • 支持AutoTVM和AutoTune工具进行编译优化


海藻FPGA部署示意图


海藻 (Varec) 项目目标


1、架构可配置的开源AI硬件


2、算子可配置的开源AI硬件

未来目标

项目动态

  1. 与国网联研院合作开发,VAREC支持Yolo模型推理,在嵌入式开发板上验证效果

  2. 扩展加速器为多核加速器,并修改编译后端支持多核执行

    • 单核yolo推理速度:2.43fps

    • 双核yolo推理速度:3.23fps

  3. 集成Systolic array到Execute模块提高计算性能

    • 原先性能:35.1GOPS

    • 集成SA性能:74.3GOPS

项目动态