算法推理优化工程师

岗位职责

1. 负责工程推理平台的研发与优化，支撑平台持续升级优化；
2. 负责模型推理加速，深入优化模型性能，降低资源成本；
3. 负责算法项目的工程化落地，适应业务的发展，推动业务的落地解决。

任职要求

1. 后台技术扎实，掌握Java/Python/C++语言；有较强的高性能编程基础，了解常规的性能优化方式；
2. 熟悉主流推理框架和推理加速技术，包括但不限于TensorRT/TVM/onnxruntime等，模型压缩、模型量化等技术；
3. 熟悉深度学习相关平台/系统，如PyTorch、TensorFlow、Megatron-LM、vLLM、TensorRT/llm等项目，有底层优化或开源经验者优先；
4. 熟悉GPU体系结构，有CUDA编程经验或CPU平台加速核算法开发使用经验者优先；
5. 良好的主动性和责任感，优秀的分析问题和解决问题能力，良好的团队合作意识和沟通能力。