AI Infra资深研发工程师 (JR20260814006)

岗位职责

职位描述

1. Agent Sandbox 组件研发：负责 Sandbox SDK 与沙箱运行时和控制面的开发，包括Session 生命周期管理、调用边界网络策略、多租户隔离、容器加固、高密资源治理、Platform Runtime等。打通"可观测 → 可归因 → 自动优化 → 自动上线"的 Agent 进化闭环。
2. 模型服务网关研发：负责 AI Gateway 核心组件的架构设计与开发——模型路由、鉴权、分布式限流、Token 级计量与成本控制、多租户隔离、审计日志、降级策略、API 协议适配；对接集团 TokenService 与自建推理集群，让业务 Agent 的 LLM 与 Tool 调用快且稳。
3. 容器调度：负责 GPU 容器的调度与资源管理，基于 kube-scheduler/volcano/koordinator 等实现排队、优先级、LLM 槽位预留、PD 分离节点的独立扩缩容，支撑算力池化与在离线混布。
4. 稳定性：负责Fintech大规模AI推理场景下稳定性技术体系的设计与迭代，负责AI Infra稳定性相关工具链的开发、稳定性工作流的构建与建立，包括但不限于：E2E可观测性与告警，SLA 体系，变更以及研发流程，容灾，故障处理，容量评估与压测等。让 Fintech 业务 Agent 稳定运行在 AI Infra 之上。

任职要求

我们期待您具备：

1. 本科及以上学历，计算机相关专业；3年以上稳定性工作经验。
2. 能熟练使用一种编程语言，包括不限于Python/Shell/Golang/C++/C。
3. 熟悉大模型推理服务化（vLLM / SGLang / TensorRT-LLM 等推理引擎），熟悉 Agent 技术栈（Agent 框架Function Calling、MCP 协议等）。
4. 熟悉K8S：CRD/Operator 开发、容器运行时、网络策略，扎实的分布式系统功底，有网关、限流、鉴权类组件或 PaaS 平台的开发经验

部门

Fintech Technology