SRE运维工程师（AI Infra）

岗位职责

1. 负责 LLM 网关及推理服务监控告警、日志链路追踪建设，覆盖 TTFT/TPOT/流式成功率、上游错误码、Token 用量等核心指标，优化 LLM 场景告警策略；
2. 负责 LLM 网关与推理服务版本发布、CI/CD 运维，制定模型路由、回退策略、限流与超时等配置变更的灰度与回滚规范，保障发布平稳；
3. 负责网关依赖组件（缓存、元数据存储等）与推理集群稳定性运维，排查流式中断、限流打满、上游超时/过载、OOM、排队超时等问题，参与 GPU/NPU 容量治理与高可用保障；
4. 制定并落地 LLM 服务 SLO/SLI 体系，参与 P0/P1 故障响应复盘，沉淀 Runbook 与运维规范；负责限流/降级/路由切换相关配置变更、应急处置与效果验证。

任职要求

1. 本科及以上学历，3年以上SRE工作经验;
2. 有丰富的生产环境故障排查和性能调优经验，能够快速定位和解决问题；
3. 具备以下一项或多项软件开发经验：Go/Python/Java/C++等，能够编写高效、稳定的系统工具和自动化脚本；
4. 熟练使用SHELL，熟悉Python、Golang者优先;
5. 具有高度的责任感和主动性，能够与业务方、开发团队紧密合作，推动项目顺利进行。