系统架构
本系统由AI建模、AI模型共享(AI商城)和AI能力开放三大平台组成。其中AI建模目前暂采用线下形式,使用Acumos提供的客户端工具来实现模型打包。
软件架构
本系统AI模型共享平台(AI商城)和AI能力开放平台基于Spring Cloud微服务架构进行开发。前端采用Angular 6.0框架实现,编程语言主要为TypeScript和HTML;后端采用Spring Boot框架实现,编程语言主要为Java。部分微服务初始代码框架采用Jhipster代码脚手架工具生成。
微服务基础组件
使用Consul作为微服务注册/发现中心和数据配置中心。
API网关是一个特殊的微服务,用于为后端的业务应用微服务提供一个统一的访问入口,主要功能包括:HTTP路由,负载均衡,安全控制,QoS控制,接入控制,熔断机制等等。
本系统将API网关功能与采用Angular编写的前端Portal页面集成于同一个微服务之中,命名为:gateway。
uaa(用户认证授权中心)是一个特殊的微服务,为系统提供统一的安全控制服务,主要用于用户的认证、鉴权、授权,微服务的访问控制,以及基于角色的访问控制。
消息中间件由一组特殊的微服务组成,主要用于系统中微服务间异步数据和消息的高效传输和处理。本系统采用开源软件Kafka来作为消息中间件。
搜索/日志/可视化采用ELK套件来实现。ELK Stack构建在开源基础之上,能够安全可靠地获取微服务架构中任何来源、任何格式的数据,并且能够实时地对数据进行搜索、分析和可视化呈现。
CubeAI应用微服务
前端采用Angular框架进行开发,将其代码托管于API网关所在的后端微服务gateway之中。
AI模型管理。下挂一个MySql数据库,统一管理CubeAI应用中所有需要持久化的数据模型。
AI模型导入。负责将建模阶段打包好的AI模型导入CubeAI平台,并生成docker形式的微服务镜像。
AI模型编排。以可视化图形界面将多个基础模型组件组合编排成一个功能更为复杂的AI模型。
AI模型部署。将CubeAI平台中已发布模型部署至Kubernetes云平台,以docker容器的方式运行,以RESTful API的形式向用户提供AI能力开放接口。
AI能力开放网关。对Kubernetes平台中docker容器提供的AI能力接口进行封装,增强API访问的安全性。
AI能力开放示范平台。为Kubernetes中已部署的部分典型AI开放能力接口提供图形化演示界面。
CubeAI应用支撑组件
提供用于存储AI模型相关构件和文档的文件服务器,以及用于存贮AI模型docker镜像的docker仓库。
AI模型部署目标平台,以docker容器形式为AI能力开放提供微服务化容器编排和调度平台。
开发环境
操作系统
版本管理
Java JDK
Java build工具
Node.js
从 https://nodejs.org/en/download/ 下载相应版本,拷贝至/opt。
解压,创建符号连接(用实际版本号替换以下版本号):
cd /opt
# tar -xvf node-v8.10.0-linux-x64.tar.xz
# ln -s node-v8.10.0-linux-x64 nodejs
# ln -s /opt/nodejs/bin/node /usr/bin/node
# ln -s /opt/nodejs/bin/npm /usr/bin/npm
# node -v
前端build工具
微服务代码脚手架工具
Docker
更新apt-get包索引
apt-get update
安装软件包使apt可使用HTTPS:
# apt-get install apt-transport-https ca-certificates curl software-properties-common
添加Docker官方GPG key:
# curl -fsSL https://download.docker.com/linux/ubuntu/gpg | apt-key add -
验证指纹,是否有 9DC8 5822 9FC7 DD38 854A E2D8 8D81 803C 0EBF CD88
# apt-key fingerprint 0EBFCD88
Set up the stable repository:
# add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
卸载旧版本(如果非初次安装)
# apt-get remove docker docker-engine docker.io
配置仓库
安装DOCKER CE
# apt-get update
# apt-get install docker-ce
安装docker-compose
# apt-get install docker-compose
验证安装成功:
# docker run hello-world
集成开发环境
安装、开发和部署
代码下载
# git clone https://github.com/cube-ai/cubeai.git
开发
部署