推理网关工程师

岗位职责

团队介绍： 我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。

1. 负责智能路由、流量治理、协议适配及长连接管理的整体架构设计，推动方案落地并持续优化；
2. 制定关键性能与稳定性指标，持续提升系统效能并降低维护成本；
3. 主导跨模块重点项目，从需求梳理至结果跟踪全程负责，确保实际价值并沉淀方法；
4. 识别系统架构风险，提出并推动改进方案落地，解决关键卡点问题；
5. 提炼共性问题解决模式，指导团队能力提升，推动经验复用。

任职要求

1. 具备高并发分布式系统架构设计经验，能够设计智能路由、负载均衡及流量治理方案，并推动其在系统中有效实施与持续优化；
2. 能够解决异构协议互通与海量连接接入问题，建立长连接生命周期管理机制，保障系统在高并发场景下的稳定运行；
3. 具备系统级问题洞察与架构改进能力，能从故障表象识别架构缺陷，并提出可执行的优化方案；
4. 能够持续跟踪云原生、分布式系统及可观测性领域的前沿实践，并将其引入实际架构以解决系统瓶颈；
5. 具备严于律己、以身作则、挑战自我的职业素养，在架构设计与优化中坚持技术标准与质量红线；
6. 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。

部门

京东科技