浪潮信息发布业界首款智算中心算力调度软件产品
4月9日,2020浪潮云数据中心合作伙伴大会(IPF2020)在线上举行,浪潮重磅发布全新AIStation人工智能推理服务平台,这是业界首款智算中心算力调度软件产品,是专为企业级AI生产环境打造的AI推理服务平台,可实现推理服务资源敏捷调配,支持多源模型统一调度,使模型部署从几天缩短到几分钟,将有力地帮助企业轻松部署AI推理服务,从而大幅提升AI交付和生产效率。
当前,AI模型开发进入到生产部署阶段面临着多重困难和挑战:AI模型需要经过大量的调试和测试才能部署上线,这一过程通常需要2-3天;AI线上服务计算资源一般较固定,对于突发需求资源响应慢,业务扩展难;AI模型来源不同,统一管理也很困难。企业希望可以无缝衔接AI模型训练开发与推理部署,进行高效的资源调度和模型管理,缩短业务上线周期。
最新发布的浪潮AIStation推理平台是企业级AI推理服务平台,通过弹性可伸缩架构、低延迟轻量化设计、A/B测试滚动发布、多模型加权评估等重要技术创新,帮助企业高效利用AI计算资源,快速部署推理服务。AIStaion推理平台具有一键部署、快速响应、日志监控、资源管控、数据处理等功能,是功能全面强大的AI资源平台。
AIStation推理平台支持本地On-Premise和云端Cloud部署,保证服务的可获得性和业务连续性,实现了AI模型从开发环境到生产部署繁杂过程的自动化快捷操作,将模型部署时间从两三天降低到几分钟。
在资源调度方面,AIStation推理平台能够敏捷调配服务资源。采用创新的弹性可伸缩架构,可根据推理服务资源需求的变化及时调整资源配给,将响应突发需求的实例部署时间从几小时缩短到几分钟。并且支持新模型发布前A/B测试,在实际业务场景中验证模型有效性,保证推理业务的安全、可靠,同时避免了流量切换所导致的集群负载压力。
在模型管理方面,AIStation推理平台实现了多源模型统一调度。通过统一平台管理多源、多场景模型的推理服务,实时掌控全局资源,对模型服务实现综合调度和动态部署。同一资源池可同时支持多家模型服务,将资源利用率从40% 提高到80%。并且可实现多模型加权评估,通过对不同预训练模型的计算结果进行自定义权值设置,有效提升实际业务场景中预测结果的可靠性,构建可靠可信的智能系统,有效降低误判率。
之前浪潮推出的AIStation训练平台已经获得广泛应用,该平台通过计算资源细粒度调度、训练数据缓存加速、分布式训练自动编排等策略,使用户的AI计算资源利用率提高到90%以上,大幅缩短了模型开发周期。随着本次浪潮AIStation推理平台的面世,AIStation资源平台全面支持训练与推理两大场景,实现从模型开发、训练、部署、测试、发布、服务的全流程一站式高效交付。
浪潮AI&HPC总经理刘军表示:"智算中心是人工智能新基建,它生产和供应人工智能计算力,是社会经济运行的智慧基础设施。而要让智算中心充分释放算力,就需要按需灵活调度算力。AIStation对于智算中心新基建的意义,就相当于电厂和电网的核心调度系统,它能够根据AI应用需求高效调度AI算力资源,帮助企业加速AI研发创新、提速AI生产交付,让企业更专注于AI开发本身,从而赋力更多创新可能,加速AI落地应用。"
浪潮是人工智能计算的领导品牌,AI服务器中国市场份额保持50%以上,并与人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助AI客户在语音、语义、图像、视频、搜索、网络等方面取得数量级的应用性能提升。浪潮与合作伙伴共建元脑生态,共享AI计算、资源与算法三大核心平台能力,助力行业用户开发并部署属于自己的"行业大脑",加速推进产业AI化落地。
深圳深意吉利博越优惠高达1万元福田深圳深意店博越PRO现车限时优惠,可试乘试驾博越PRO现车在店,购车可享多重优惠方案零息方案首付30起2年0息首付45起享3年0息超长期限超低月供方案每天一杯奶茶钱博越PRO贷
尼罗河上的惨案发布预告片!神奇女侠领衔演绎震撼心灵的罪案尼罗河上的惨案全球首支先导预告片华丽来袭!全明星卡司阵容演绎推理女王阿加莎克里斯蒂的经典悬疑作品。先导海报同步释出!迷雾笼罩,静待大侦探波洛抽丝剥茧揭晓真相继东方快车谋杀案后,大侦
谢娜首次直播卖房,引爆全网你的朋友圈,暴露了你值多少钱01hr近日,谢娜首次开直播。但是在预热阶段,却已经引爆全网,将近百万人为她转发宣传!尤其值得注意的是,为她宣传的除了粉丝,还有非常多的当红流量明星!可谓是谢娜的一场直播首秀,掀起
你的人生也许只是真人秀表演看完楚门的世界你大概就能明白黑色幽默的意思。电影主角楚门从出生那一刻起,便开始了一场24小时不间断的真人秀直播,全球220个国家17亿电视观众,5000多台摄像机,所有人都知道那个
不负众望!八佰要爆了原定于2019年6月15日上海国际电影节开幕片,后因技术原因取消的八佰。前几天终于点映了。今天就给大家说说我对这部电影的观感八佰导演管虎主演王千源张译姜武黄志忠张俊一类型剧情历史战
张柏芝,你还有多少惊喜我不知道?在小编印象中,尔冬升绝对算得上是一位一流导演。比如由他执导的门徒,能让主演刘德华,吴彦祖等人发挥所长不说,而且还顺势燃起了观众对香港电影的期望。所以很多人,也都是通过这部电影才记住
Angelababy哭戏登顶热搜,不用眼药水看剧本就落泪流量明星转型演员第一步,便是在演技上获得大众的认可。85后小花Angelababy演技虽然被网友们诟病多年,却依然兢兢业业接戏拍戏,不断尝试新的可能,终于有朝一日靠哭戏上了热搜第一
乘风破浪的姐姐,翻车了?发现没?最近乘风破浪的姐姐热度渐渐降下去了。刚开始,每个人都张扬自信姐味十足。到现在迎合观众审美,舞台趋于同化。高开低走。甚至,越来越多人表示乘风破浪的姐姐越来越看不下去了。为什么
平均工资7470元?你的工资在青海能去哪里玩?立秋已过,气温明显就降了很多,尤其是早晚趁着最后几天的好天气抓紧时间去浪最近几天全省大部分地方天气晴好,艳阳高照这两天格尔木市最高气温突破30度西宁市的最高气温也是逐步上升青海不同
离婚4年,马蓉被求婚你博眼球的样子,真丑1hr与王宝强离婚4年后,马蓉被求婚了!一名男子在自己的社交平台上连发3条视频,公开向马蓉求爱。第一则视频当中,一个身着西裤衬衣,表情肃穆的男子,高举着一块扎眼的红色广告牌表白马蓉
国家又发补贴了!及时人力资源社会保障部财政部发布关于扩大失业保险保障范围的通知,阶段性实施失业补助金政策。重磅12020年3月至12月,领取失业保险金期满仍未就业的失业人员不符合领取失业保险金条件的参