FenixCOS
国产万卡大模型推理技术
目前全国超算中心共有14所,算力卡以国产卡为主,主要用于科学计算。如何超算变智算,如何为政府、企业及科研单位提供大模型赋能,实现产业聚集?
DeepSeek 满血量化版国产万卡推理
算子深度优化
自研MLA、MoE等算子,深度优化适配海光Z100
- 针对Z100实现缺失的算子
- 混合专家MoE算子
- 多头潜在注意力MLA算子
并行推理引擎
面向海光Z100集群定制开发并行推理引擎,支持大规模并行推理
- 支持多节点并行推理
- 采用数据并行、专家并行和流水线并行策略
异构算力混合调度
支持异构算力混合调度
少量K100运行Prefill任务
大量Z100运行Decode任务