AI推理平台-百炼平台工程技术专家/高级工程师-北京/杭州

岗位职责

1.负责 MaaS（Model as a Service）推理平台及大模型应用系统的架构设计与建设，打造面向大规模模型服务场景的高性能、低延迟、高吞吐推理基础设施，支撑稳定可靠的 AI 服务运行。 2.负责推理服务核心能力建设，包括请求调度、批处理优化、上下文管理等关键模块的设计与实现，持续提升推理系统的性能、稳定性和资源利用效率。 3.负责大规模模型服务平台建设，包括模型部署、服务治理、流量调度、容量管理、弹性伸缩等核心能力，支撑海量模型的全生命周期管理与稳定运行。 4.推动平台 DevInfra 能力建设，完善 CI/CD、灰度发布、可观测性、异常诊断及系统治理等基础设施，持续优化平台架构与工程实践，不断提升系统在性能、稳定性、可扩展性及成本效率等方面的能力，推动 AI 基础设施持续演进。

任职要求

1.计算机相关专业硕士及以上学历，具备扎实的计算机基础，深入理解操作系统、计算机网络、数据结构、算法及分布式系统等核心知识。 2.具备良好的系统设计与工程实现能力，熟练掌握 C++、Go、Java、Python 等至少一种主流编程语言，能够独立完成复杂系统的设计、开发与优化。 3.熟悉 Linux、云原生及分布式系统相关技术，了解 Kubernetes、容器、微服务、服务治理等主流技术体系，具备良好的性能分析与问题定位能力。 4.具有以下任一背景者优先： 有AI 基础设施或大模型平台研发经验； 有系统领域顶级会议论文、ACM/ICPC 等竞赛获奖经历或主流开源项目贡献经验。

岗位标签

NEW