华为中国合作伙伴大会2024丨软通智慧携手华为发布基于昇腾的公共算力服务平台

发布时间:2024-03-20 10:50:45 | 来源:中国网 | 作者:辛文 | 责任编辑:严格

图片1.png

随着人工智能、云计算等新一代信息技术快速发展,算力加速向千行百业渗透融合发展,助推行业迈向数智化新阶段。3月15日下午,在华为中国合作伙伴大会2024上,软通智慧携手华为发布基于昇腾的公共算力服务平台,为客户提供易用、高效、解耦的一站式AI解决方案。

在过去的一年,以大模型为代表的生成式人工智能迎来爆发式增长,引领新一轮科技革命和产业变革深入发展。千行百业纷纷引入人工智能大模型技术,以期望增强自身核心竞争力、获得行业先发优势。但多元异构算力、模型训练和调试等难题,让用户面临高昂的投入和难以预料的结果,给行业的良性发展带来阻碍。

软通智慧城市云业务部副部长李全介绍,面对上述难题,软通智慧携手华为推出了集异构算力云平台、模型开发平台、模型应用平台、运营管理平台和模型服务的“4+1”AI能力组合,面向多场景、多行业提供联合解决方案及定制服务。

异构算力云平台以多元算力为基础,集成昇腾技术底座能力,构建一云多芯算力底座,全面适配信创生态,提供稳定高效的算力、存储、网络等调度管理能力。

TongModel一站式模型推训平台,是面向AI模型生产全生命周期,为企业和开发者打造的训推一体化软件平台,提供数据处理、算法开发、模型训练、算力管理和推理应用等多种开发组件,助力模型生产与应用。平台不仅具有灵活易用、性能优越等优势,还能够帮助用户提供一站式AI模型开发功能,打通深度学习全链路,帮开发者构建自己的影响力和生态。

模型应用平台则基于前沿大模型技术组件,开放可视化且自由的流程编排能力,可以快速搭建以大模型为核心的智能应用。平台提供了可视化的Prompt编排、运营、数据集管理等功能,可以将大语言模型快速集成到现有应用中,并进行持续运营和改进,有效提高训练效率和模型的稳定性,以及从“需求到原型再到生产可用”的开发敏捷性和效率。

运营管理平台,拥有平台级全局策略定义和全局资源统一管理,实现资源一站式统筹监管,不仅实现资源的合理分配和利用,还可以快速统计租户资源使用情况,避免信息滞后,实现从多集群到多数据中心纵向管理和精细化运营。

在模型服务方面,平台聚焦客户实际生产诉求,提供个性化定制模型服务和全链条的AI专家技术服务。基于异构AI算力,优化深度学习框架和算法,为客户设计生产高效的AI模型。同时,基于强大的昇腾AI算力底座,还为用户提供了针对昇腾AI芯片的适配服务,确保模型在各种芯片上的顺畅运行,助力生态伙伴和客户的AI技术方案应用落地。

面对人工智能发展的无限前景,软通智慧将携手华为、伙伴和客户,厚植“数据+AI”沃土,以开放、兼容、合作、共赢的心态,充分发挥自身优势,持续加强技术自主创新,探索人工智能融合应用,共同构筑良好的生态体系,助力我国人工智能产业的全面繁荣发展。

查看网址