10月16日，北京– 范式智能技术集团有限公司（“范式” 或“集团”，股票代码：6682.HK）联合北京睿思智联科技有限公司（“睿思智联”）宣布，一站式生产级 AI 部署平台“模域” (ModelSphere) 正式上线。该平台面向企业用户免费开源，将算力管理、模型部署和运行优化整合在统一平台，帮助企业降低部署与运维门槛，更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。平台已在GitHub开源。

1.简化部署，保障模型服务稳定运行：模域提供图形化操作面板和预置部署能力，减少环境配置代码的偏写，帮助开发者快速大模型搭建推理服务，并简化不同芯片集群的。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级能力，支持模型服务在生产环境中稳定运行。

2.持续自动化调优，提高模型运行效率：平台内置 AutoTune 智能模型排期策略，以及结合硬件加速能力的自适应负载均衡调度，优化模型处理请求的能力和首次响应速度，系统极限吞吐效率较基准大幅提升约 285%，性能跃升至原来4倍，真正实现了算力的“满血”释放。

3.统一管理多种芯片，减少重复适配：平台融合 EngineX 推理引擎，支持并针对多种算力芯片进行深度调优，可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源，用户无需为不同芯片重写底层逻辑代码。

版权声明：

本博客部分内容为转载文章，旨在分享有价值的信息，版权归原作者所有。

转载仅为个人学习与交流目的，不对文章观点负责，亦不用于任何商业用途。

如涉及版权问题，请联系本人删除。