推理优化工程师
Company 京东
Focus 技术 · 后端
上海
July 20, 2026
岗位职责
- 负责推理框架与引擎的研发与优化,深入理解业务场景需求,设计并实现高性能、低延迟的推理解决方案,以支撑大规模AI应用的高效部署;
- 参与模型部署与推理流程的工程化落地,通过代码优化、算子融合、内存管理等技术手段,持续提升推理服务的吞吐量与稳定性;
- 跟踪并研究模型压缩、量化、编译器等推理优化技术,推动先进技术在实际业务中的转化应用,助力业务模型的高效运行;
- 与算法及工程团队紧密协作,参与从模型训练到线上服务的全链路建设,确保推理环节与整体系统架构的契合与高效协同;
- 负责相关工具链与平台的开发维护,建立性能监控与评估体系,为业务迭代提供可靠的技术支撑;
- 参与技术方案评审与团队知识分享,推动团队在推理优化领域的技术积累与专业能力提升。
任职要求
- 学历要求:本科及以上学历,计算机科学、软件工程、人工智能、数学等相关专业;
- 工作经验:具备0-3年软件开发或相关领域工作经验,有推理优化、模型部署、高性能计算或分布式系统项目经验者优先;
- 能力要求:
技术基础:熟练掌握至少一门编程语言(如Python、C++),熟悉常用数据结构和算法;
推理优化能力:理解机器学习模型推理原理,具备模型量化、算子融合、内存优化等实践经验;
系统能力:熟悉Linux开发环境,了解CUDA、TensorRT、ONNX等推理框架或工具,具备性能调优经验;
工程能力:具备良好的代码规范和文档习惯,能够独立完成模块设计、开发与测试; - 基本素质:
团队协作:具备良好的沟通能力和团队合作精神,能够与跨职能团队高效协作;
问题解决:具备独立分析和解决问题的能力,能针对性能瓶颈提出有效优化方案;
学习能力:对AI基础设施领域有浓厚兴趣,能持续学习新技术并应用于实际工作;
责任心:工作认真负责,能承受一定工作压力,积极推动项目进展。
符合京东价值观:客户为先、创新、拼搏、担当、感恩、诚信。
部门
京东科技