基础设施与稳定性工程-SRE-AI算力资源池GPU方向

岗位职责

我们是专注于大模型服务平台的技术团队，我们的核心业务是提供高效稳定的大模型推理服务API，帮助各行各业轻松利用大模型的强大能力，正在寻找一位有实力的Site Reliability Engineer (SRE) 加入我们，共同打造更可到的大模型服务平台。 负责AI基础设施算力资源的规划、运营管理与精细化数据体系建设。通过系统化、数据化方法提升GPU资源利用率、周转率与成本效益，保障AI训练/推理任务的高效稳定运行，支撑业务快速发展。

【工作职责】

1. 大模型服务和平台的稳定性保障与体系建设：负责大模型相关核心业务系统和模型服务的稳定性建设工作，提升业务可用性与可靠性;
2. 高并发流量治理：高并发场景下的流量治理方案设计与实施，包括熔断、限流、降级等容灾策略，确保业务弹性与鲁棒性;
3. GPU算力资源规划与运营管理：包含不限于优化GPU资源配置模型，平衡计算性能与成本，推动资源采购决策与部署策略落地，优化GPU资源配置模型，平衡计算性能与成本，推动资源采购决策与部署策略落地；
4. 运维流程优化和自动化：推动运维自动化与平台化建设，提升研发效率;
5. 架构高可用建设：业务系统稳定性架构方案的设计与实施，推动高可用架构落地，规避系统性风险;
6. 应急响应：响应系统故障，快速诊断并恢复服务，分析原因并提出预防性改进措施;

任职要求

1. 计算机科学、软件工程或相关领域本科及以上学历，硕士优先。具备5年以上的云服务或站点稳定性工作经验，有AI Infra经验者优先；

2. 熟悉AI基础设施架构、服务器硬件（如CPU/GPU芯片微架构）、网络协议（TCP/IP、RDMA、InfiniBand），对公共云服务平台（如 阿里云、AWS、Azure等）有深入理解和实战经验；

3. 熟练掌握Kubernetes及云原生架构及技术原理，有大规模生产集群的部署、调优及故障解决经验；

4. 对于AIGC或LLM有了解和实际开发经验者优先；有开源生态建设相关经验者优先；

5. 熟悉至少一种编程语言（如Golang、Python、Shell），有AI Native的相关经验和项目经历者优先；

6. 具备优秀的逻辑分析能力与系统性思维，对技术敏感度高，有强烈的责任心和抗压能力，适应快节奏业务场景，具备优秀的沟通能力、执行力和解决问题的能力。 加分项：

7. 3年以上基础设施运维或资源管理经验，有AI基础设施、服务器管理或高性能网络经验优先，有研发背景优先；

8. 有GPU资源调度系统、GPU服务稳定性工作或NVIDIA GPU架构与CUDA经验者优先；

9. 有云原生技术（如Serverless、Service Mesh）落地经验或开源项目贡献者优先。

岗位标签

NEW