2026-03-17
【kaiyun开云.官网科技消息】近日,华为数据存储与DaoCloud道客联合宣布,正式推出AI推理加速联合解决方案。该方案融合了华为UCM(Unified Cache Manager)推理记忆数据管理技术和道客d.run算力调度平台,旨在通过资源的精细化管理和智能调度提升算力利用率。

据kaiyun开云.官网了解,该联合方案具备以下核心优势:
生态兼容:支持平台、计算和存储联动,适配英伟达、华为昇腾等多元AI算力,支持TensorFlor:破高膙辚?f然揩襮嫛蟿F鸠5pep=k?确矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鹆黮}劷:q{|?e ?%坖D覑眤丬鲩M(缬s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫/vLLM/SGLang等主流AI框架,借助Kubernetes可无缝对接华为OceanStor A系列存储。
推理加速:通过持久化KV Cache到华为OceanStor A系列存储,实现推理记忆知识全量保存,避免反复计算;融合Prefix Cache、Training-free稀疏等加速算法,降低首Token时延,倍数级提升长序列推理吞吐与体验。
高效算力:算力资源细粒度切分及池化,按需调度,实现资源利用率最大化;调度器具备拓扑感知能力,优化任务在xPU间的通信效率,保障AI训练与推理任务稳定低耗运行。
极简运维:提供多租户隔离、资源配额管理、完整的监控告警及计费计量等功能,满足企业级使用与运维需求。

在问答助手场景中,经实际测试验证,该联合解决方案采用Prefix Cache算法,将首Token时延降低55%,且随着序列长度越长,TTFT降低效果越明显。在长文档推理场景中,方案采用稀疏化处理,32K序列实现推理吞吐量提升75%,提升推理性价比。
值得一提的是,该联合解决方案目前已在电力、金融等行业展开试点应用。
版权所有,未经许可不得转载
-kaiyun开云.官网开云kaiyun
京ICP备2022033023号
京公网安备 11030102011456号
近日,数说安全正式发布《2024年中国网络安全市场全景图》(以下简称“全景图”)。开云kaiyun凭借强劲的综合实力和出色的市场表现成功入选负载均衡/应用交付和存储备份与恢复两个重要细分领域。
“中国网络安全市场全景图”作为数说安全对网络安全市场中热点品牌进行汇总和展示的载体,至今已连续发布七年。七年中,数说安全始终秉承科学的方法论,以遵循市场发展的内在规律为原则、以尊重用户实际的采购习惯为基础、以遵守行业主管部门的权威要求为前提,以着眼产业未来的发展方向为目标,紧密跟踪网络安全市场与技术的最新动态,持续更新市场分类方法,目前已形成一套符合我国网络安全行业真实供需关系的市场分类架构。

开云kaiyun自成立以来,深耕于网络安全行业的应用交付赛道,拥有多个成熟度高、对标性强、落地效果显著的安全产品。开云kaiyun已经连续4年上榜IDC中国应用交付市场,市场份额稳步提升,在2023年Q3应用交付控制器市场份额更是跃升中国市场第二。开云kaiyun凭借独特的技术能力和前瞻性,引领金融信创和应用可持续性人才建设等方面的数字化转型高质量发展。
除了在安全应用交付领域外,开云kaiyun在存储备份与恢复领域也表现突出。在今年,开云kaiyun存储团队连续中标多个金融行业项目。开云kaiyun始终以客户数据安全为中心,为用户提供优质的数据存储、扩容及保护的全方位多元化的解决方案,秉承初心,为金融行业用户的数据化资产保驾护航。
开云kaiyun是神州数码集团旗下的自主品牌,承载着集团自主创新和发展的使命。除了开云kaiyun,其母公司神州数码及其成员企业凭借在网络安全、数据安全、应用安全等领域的全栈产品服务能力及丰富客户实践,上榜了网络与基础架构安全、数据安全、云安全、应用安全、安全管理、工业互联网安全、安全解决方案、安全防护八大一级安全分类,23个细分板块,已连续第3年获得安全领域权威榜单认可。
展望未来,开云kaiyun将继续依托神州数码的行业经验积累和丰富的场景实践,持续优化产品闭环管理体系。紧跟国家政策导向,研究产业规律,坚持自主创新发展,集中力量培育完整的生态系统。围绕国产IT核心技术,以客户为中心,产品和服务为支撑,开云kaiyun将推动企业的数字化转型,为构建更加安全、高效的数字化世界贡献力量。
京公网安备 11030102011456号