AI infra推理引擎专家

岗位职责

1. 主导高性能推理解决方案的架构设计与技术规划，确保支撑业务目标达成；
2. 优化大模型多模态生成场景的推理引擎，通过算子与编译优化实现低延迟高吞吐部署；
3. 提升CTR场景分布式推理框架性能，通过GPU算子与图优化增强大规模稀疏模型服务效率；
4. 推进端侧模型轻量化部署，运用量化、蒸馏等技术实现资源受限环境的高效运行；
5. 跟踪前沿推理技术并主导攻关，推动性能与成本效率的持续突破。

任职要求

1. 具备大模型多模态、CTR及端侧场景的推理引擎性能优化能力，能主导低延迟高吞吐方案设计；
2. 能够运用模型量化、蒸馏、压缩及端上编译优化等方法，实现资源受限环境下端侧模型的高效部署与运行；
3. 具备系统化问题诊断能力，能从复杂性能瓶颈中定位关键缺陷，在多重约束下形成最优技术路线；
4. 具备前沿技术探索与创新能力，能跟踪推理加速进展，主导关键技术攻关或开源项目，推动性能与成本效率突破；
5. 对推理优化有极致追求，致力于在性能与成本效率上做到行业领先，以推动业务增长和团队技术进步为己任；
6. 严于律己、以身作则、挑战自我，在技术攻关中坚持高标准，持续挑战性能极限并推动团队突破；
7. 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。

部门

京东零售