推理引擎工程师（大模型/CTR/端）

岗位职责

1.负责大模型、CTR模型及端侧模型的推理性能优化与部署，根据业务场景（如LLM多模态生成、推荐/搜索/广告、移动端/嵌入式设备）定制高性能推理解决方案； 2.针对大模型推理场景，优化推理引擎性能，支持文生图、文生视频等多模态任务的低延迟、高吞吐部署； 3.在CTR场景中，优化推荐/广告系统的分布式推理框架，通过GPU算子优化、编译优化、图优化等技术提升大规模稀疏模型的服务效率； 4.负责端侧模型的轻量化部署，通过模型量化、蒸馏、压缩及端上编译优化实现模型在资源受限环境的高效运行； 5.跟踪前沿推理技术，主导开源项目或关键技术攻关，推动团队在推理性能、成本效率上的持续突破。

任职要求

1.本科及以上学历，3-5年机器学习/推理优化研发经验； 2.LLM方向：需熟练掌握大模型推理引擎的优化技术、大模型多模态/文生图/文生视频等大模型算法；具备扎实的学术能力或者是大模型推理引擎开源项目的负责人，具有大模型推理引擎领域发展的前瞻能力； 3.CTR方向：需熟练掌握CTR场景的模型推理的优化技术，熟悉推荐、搜索、广告场景的引擎框架和分布式系统；具备扎实的高性能计算、分布式、GPU算子、编译优化、图优化、存储等经验者优先； 4.端方向：需熟练掌握端上推理的优化技术，熟悉编译优化、端上高性能代码生成、内存优化等；熟练掌握模型优化能力，熟悉模型量化、模型蒸馏、模型压缩等经验者优先。

符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。

部门

京东零售