青云QingCloud推出推理引擎 打造一站式深度学习平台

互联网
2019
11/18
15:13
分享
评论

北京,2019年11月11日——

企业级云服务商青云QingCloud日前宣布推出Inference Engine 推理引擎。青云QingCloud推理引擎作为DeepLearning深度学习平台的重要组成部分,将通过AppCenter交付,一键云端部署,为用户提供一站式的模型部署与推理方案。此外,青云QingCloud推理引擎还提供了应用全生命周期管理能力,包括创建、扩容、监控、健康监测等,助力开发者快速拥有生产环境AI推理引擎。

训练和推理是机器/深度学习的两个重要组成部分。AI开发者通过各种深度学习框架,如Tensorflow、PyTorch等训练好模型后,将模型部署到生产环境,管理模型版本并提供API用于推理。成熟的推理产品除了要支持多种推理框架、多种加速器(CPU/GPU)之外,还需要支持诸如推理API (HTTP/GPRC) 负载均衡、模型上传、模型存储、模型部署、水平/垂直伸缩、推理引擎日志/推理 API 访问日志查看等诸多功能。

作为成熟的推理产品,青云QingCloud此次推出的Inference Engine推理引擎,除了完全具备上述功能,还具备以下优势:

主流推理框架集成针对英特尔CPU 优化的 CPU版 Tensorflow Serving,未来还将陆续支持 ONNX Runtime / OpenVINO 等主流推理框架,助力用户快速部署机器/深度学习推理环境。

多种加速模式:支持使用 GPU 或仅使用 CPU 进行机器/深度学习推理,同时可根据自身需求选择单节点或分布式部署模式;其中,CPU 版基于第二代英特尔至强可扩展处理器,采用了 Intel DeepLearning Boost VNNI 技术,AI 推理性能与上一代型号 CPU 相⽐提升高达 100% 。

多种存储方式 支持本地磁盘存储、对象存储以及兼容S3协议的 MinIO私有对象存储等多种存储方式存储模型。集成对象存储命令行工具,通过配置对象存储相关参数,可便捷地从对象存储中获取模型,完成推理。

多种部署方式支持单模型服务节点+本地模型存储、多模型服务节点+私有对象存储模型库 ( MinIO 对象存储 )、多模型服务节点+公有云对象存储模型库 ( QingStor®对象存储或其他兼容S3协议的公有云对象存储) 等多种部署方式。

青云QingCloud运营副总裁林源表示,Inference Engine 推理引擎对于图像/语音识别、图像分类和实时翻译领域的突破有着重要的意义,也是青云QingCloud补齐AI服务能力、完善深度学习平台的重要一环。未来,青云QingCloud将持续推出更多AI 相关服务,助力AI开发者更加便捷地开展工作,推动全面人工智能时代的加速到来。

###

关于青云QingCloud

青云QingCloud是一家技术领先的企业级云服务商与数字化转型解决方案提供商,致力于通过一套自主可控、中立可靠、灵活开放的全维云平台为数字世界的高效运行提供坚实的基础支撑,加速推动百行千业数字化转型。

凭借广义云计算服务能力,青云QingCloud打造了一个具有“全栈”、“全态”、“全域”能力的全维云平台:在服务层次上,纵向跨越IaaS、PaaS和应用平台的全栈云架构,覆盖众多品牌的ICT服务;在服务交付形态上,以统一架构实现公有云、私有云、混合云和托管云的一致化交付与管理;在服务场景纵深上,集结云、网、边、端一体化能力,实现全域智能数据互联。

青云QingCloud目前拥有QingCloud(公有云/企业云/桌面云),青立方Qing³®超融合系统,QingStor®企业级分布式存储(NeonSAN®️/对象存储/文件存储/融合存储),KubeSphere®容器平台,光格网络®Evervite Networks®️智能广域网服务,EdgeWize®边缘计算套件,iFCloud™统一多云管理平台,OpenPitrix®多云应用管理平台,RadonDB®分布式数据库,Workly.ai数字化办公等十大产品线与服务品牌。

青云QingCloud致力于以极高效率、极低成本支撑全景数字世界的运行,已经帮助百行千业众多企业实现云计算落地。其中既包括大型企事业客户,如中国银行、招商银行、泰康保险、中国太平、江苏交通控股、广东省公路局、国航、四川航空、国控生物、华润创业、国家电投、西部矿业、贵州水务、京博控股、本钢集团、好丽友、康美药业、环球网、浙江日报等,也包括新兴行业及互联网企业,如掌众金融、量化派、SENSORO、好未来、VIPKID 、轻课、彩球、e城e家、WE+酷窝、米域等。

凭借全球领先的技术、卓越的产品表现和成熟的行业解决方案,青云QingCloud荣获工信部 “突出贡献单位奖”、“优秀解决方案/产品奖”、可信云“技术创新奖”、金融电子化“优秀自主创新奖”、“优秀解决方案奖”、新浪科技 “年度最具潜力创业公司奖”、福布斯“中国50家最具创新力企业”、IDC中国“互联网+”产业创新创业100强、荣膺Gartner“Cool Vender”,连续三年入选Gartner MG报告,并连续三次被Forrester评为中国公有云服务商“Strong Performer”,先后成为混合云产业推进联盟首批会员单位、超融合产业联盟成员和中国开发者服务联盟首批成员。 此外,青立方Qing³®超融合、QingStor®软件定义存储以核心厂商入围IDC报告;光格网络®SD-WAN荣获“创新应用奖”、“解决方案创新奖”和“最佳创新产品奖”,KubeSphere®容器平台荣膺“容器类技术创新奖”、“企业服务产品Top50”。

此外,青云QingCloud还获得公安部信息系统安全等级保护三级备案证明(等保三级)、ITSS®云计算服务能力标准符合性证书(贰级),通过国家ISO 9001质量管理体系认证、ISO 27001信息安全管理体系认证、可信云服务认证、软件能力成熟度集成模型三级认证(CMMI 3)、CSA(Cloud Security Alliance)STAR Tech认证、高新技术企业证书、跨境数据通信产业联盟证书等权威机构颁发的证书及认证。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

相关推荐

1
3