项目简介

CubeAI智立方 AI算能服务平台

CubeAI智立方是集AI模型自动化服务封装、发布、共享、部署和能力开放等功能于一体的开源AI算能服务平台,其核心作用在于打通AI模型开发至实际生产应用之间的壁垒,加速AI创新和应用进程,促进AI应用从设计、开发直到部署、运营整个生命周期的自动化快速迭代和演进。

系统架构

微服务框架及基础组件

CubeAI平台基于自主研发的CUBE-Net微服务框架进行开发,支持在主流容器化云原生平台上部署运行。

CUBE-Net微服务框架是一套基于ServiceBoot微服务引擎开发的云原生微服务应用基础开发平台和代码脚手架工具,目前提供如下微服务控制基础组件:

  • 服务注册与发现中心——Consul

    在CUBE-Net微服务框架中使用第三方组件Consul来充当服务注册/发现中心,同时还兼做统一数据配置中心。

  • 内容服务器——Nexus

    在CUBE-Net微服务框架中使用第三方组件Nexus来充当内容服务器,为整个微服务应用系统提供统一的文件存储、制品仓库等服务功能。

  • API网关——gateway

    CUBE-Net微服务框架使用基于ServiceBoot开发的特殊微服务——gateway——来充当API网关,用于为后端微服务提供统一的访问入口和HTTP路由转发功能。

  • 用户认证授权中心——uaa

    CUBE-Net微服务框架使用基于ServiceBoot开发的特殊微服务——uaa——来充当用户认证授权中心,用于提供基于OAuth2协议和JWT(Json Web Token)的用户认证和授权服务,以及基于JWT和角色的微服务访问控制等功能。此外,CUBE-Net微服务框架中的uaa还提供了用户管理、角色管理、消息管理、应用管理、文档管理等服务功能。

  • 前端主门户——portal

    CUBE-Net微服务框架使用基于ServiceBoot开发的前端微服务——portal——来为整个微服务应用系统提供统一的前端主门户入口界面。portal前端界面基于Angular框架,使用TypeScript和HTML等语言开发。

CubeAI平台应用微服务

除了CUBE-Net微服务框架提供的基础组件外,CubeAI平台软件主要包括以下几个微服务:

个人中心前端微服务,链接于主portal之后。ppersonal前端基于Angular框架,使用TypeScript/HTML等语言开发。

AI模型共享平台前端微服务,链接于主portal之后。pmodelhub前端基于Angular框架,使用TypeScript/HTML等语言开发。

AI能力开放平台前端微服务,链接于主portal之后。Popen前端基于Angular框架,使用TypeScript/HTML等语言开发。

AI模型管理后端微服务。下挂一个MySql数据库,统一管理CubeAI应用中所有需要持久化的数据模型。使用Python语言开发。

AI模型导入后端微服务。负责将建模阶段打包好的AI模型导入CubeAI平台,并生成docker形式的微服务镜像。使用Python语言开发。

AI模型部署后端微服务。将CubeAI平台中已发布模型部署至Kubernetes云原生平台,以docker容器的方式运行,以RESTful API的形式向用户提供AI能力开放接口。使用Python语言开发。

AI能力开放网关后端微服务。对Kubernetes平台中docker容器提供的AI能力API接口进行二次封装,增强API访问的安全性。使用Python语言开发。

AI模型服务化引擎

CubeAI平台的核心技术之一是AI模型服务化引擎——iBoot

为了使用CubeAI平台,AI模型开发者需要先使用iBoot对AI模型推理算法进行简单的封装,使之成为可在互联网上运行的web服务,然后再将其发布至CubeAI平台。在模型发布的过程中,CubeAI会自动将模型进行容器化封装。容器化的AI模型经部署之后,将使用内嵌的iBoot引擎对外提供web服务(通过RESTful API接口或web图形界面)。


项目动态