随着大模型参数规模迈向万亿级,智能体应用日益普及,企业AI落地正面临严峻考验:超长上下文导致首字延迟飙升,重复计算严重浪费宝贵算力,海量模型权重与数据集对存储性能提出极限要求。行业亟需能同时解决“存、算、用”瓶颈的一体化方案。
在此背景下,中科曙光与星环科技联合推出面向大模型时代的国产化智能体运营平台解决方案。该方案以中科曙光自主研发的ParaStor分布式存储系统与星环LLMOps大模型平台为核心,旨在破解当前智能应用面临的算力瓶颈、数据IO延迟与高昂成本等核心挑战,为企业提供全栈国产化、高性能、易运维的AI基础设施。

ParaStor:极致存力释放AI算力潜能
作为专为AI与高性能计算设计的数据加速引擎,ParaStor在此次合作中扮演了关键角色,其价值主要体现在三个层面:
打破数据IO瓶颈,为算力“铺就高速公路”。ParaStor单框可提供高达160GB/s的带宽与500万IOPS的极致性能,访问延迟低于1毫秒,这确保了在处理1M以上超长上下文时,海量数据能够被瞬间加载至计算单元,从根本上解决了因存储读写慢导致的算力等待与首字延迟过高的问题;其独有的XDS(X Direct Storage)技术,允许数据直接在GPU显存与后端存储间高速交互,将数据加载延迟降低50%以上,CPU占用率减少30%-70%,让算力得以全力投入模型计算。
创新KV Cache卸载,实现“降本增效”的革命性突破。ParaStor原生支持KV Cache offload功能,能将推理过程中产生的KV缓存数据从GPU显存智能卸载至后端高性能存储。此举显著降低对高端GPU显存的依赖,使单卡服务更多并发用户,单用户算力成本降低超40%;同时通过避免重复编码,生成速度提升2至10倍,极大优化用户体验与资源利用率。
构建高可靠、易扩展的AI数据湖。ParaStor采用全自研的分布式架构,支持从10TB到100PB的无缝平滑扩容,完全匹配大模型业务数据量指数级增长的趋势。通过多副本与纠删码冗余机制,数据可靠性高达99.9999%。其统一存储能力全面支持文件、对象、块、HDFS等多种协议,满足从原始语料加工、模型训练checkpoint保存到知识库向量检索等AI全流程数据存取需求。
存算用一体,打造国产化AI落地新范式
本次合作实现了“存”与“算”、“基础设施”与“运营平台”的深度耦合。中科曙光提供的包含高性能国产算力与ParaStor存力的完整底座,与星环LLMOps平台无缝集成,形成覆盖“数据存储-算力调度-模型训推-智能体运营-监控管理”的全生命周期闭环。
通过ParaStor的BurstBuffer智能缓存加速技术,热点数据可被主动预取至计算节点本地NVMe SSD,实现近存计算,有效应对训练任务爆发式IO压力。ParaStor的可视化运维管理与星环平台的集群管理功能联动,将运维效率提升超过50%。
该方案全栈采用国产化硬件与自主研发软件,符合国家关键信息基础设施安全可控要求,为政务、金融、科研、工业等对数据安全与合规性要求极高的领域,提供了可规模化部署的AI落地方案。
中科曙光始终致力于构建安全、可靠、先进的国产算力基础设施。未来,公司将继续携手星环科技这样的优秀生态伙伴,不断深化“存算用”一体化的技术内涵,共同推动国产AI软硬件生态的繁荣发展。
- 随机文章
- 热门文章
- 国产RTC芯片加速迭代:±2ppm超高精度、更低功耗
- Safety Pro汽车功能安全分析
- 工业级稳定互联!profient转ethercat网关赋能安川伺服器跨平台精准协同
- 虹科波形实验室 | 用串行译码诊断车辆漏电问题的方法探究
- 从"听见"到"秒懂",Leion Hey2如何重新定义跨语言沟通新标准?
- 轴距2945mm 全新奥迪Q5L申报 配第五代EA888发动机
- 人形机器人商业化加速,祥鑫科技大力布局灵巧手
- 市值暴跌90%,吉利砸2亿续命,极星能活过2027?
- 118件文物展品呈现明清文人风雅生活
- 越疆发布人形“远程存在”技术,让机器人隔空千里执行复杂任务
- 1感染甲流后该如何科学调养?饮食起居这样做,感染甲流后该如何科学调养?饮食起居这样做
- 2马克龙去的这所大学,太宝藏了吧!,马克龙去的这所大学,太宝藏了吧!
- 3北方多地迎来降雪降温天气 各部门联动“战”寒潮筑牢安全防线,北方多地迎来降雪降温天气 各部门联动“战”寒潮筑牢安全防线
- 4“无保护”攀岩真的无保护吗?“无保护”攀岩真的无保护吗?
- 5福州发布公告:吴石故居将封闭施工,展开系统性修缮
- 6城中话债|激活民间投资:让有效率的资本站上C位
- 7科学家的照片排在董事长之上,科学家的照片排在董事长之上
- 811月份“菜篮子”产品价格呈现季节性上涨 多因素推高生产成本,11月份“菜篮子”产品价格呈现季节性上涨 多因素推高生产成本
- 9晚间重磅!又一万亿级券商将诞生 券业并购潮涌
- 10何立峰:有力有序有效做好2026年金融重点工作