商业增值-机器学习平台引擎工程师

岗位职责

1. 负责商增部门机器学习推理平台建设工作，支持CTR/LLM模型训练/推理优化，确保系统高效稳定。
2. 负责CTR/LLM推理引擎优化，基于业界先进经验设计开发及优化CTR/LLM推理框架，支撑GR/LLM模型在外卖/到店/零售/医药等场景的业务需求。
3. 负责高性能算子开发和优化，针对Transformer等结构，通过指令级优化、内存访问优化等手段，提升算子性能，充分利用硬件能力。
4. 负责训练框架建设和加速优化，算法工程co-design，探索最优的训练范式。
5. 负责跟进业界新技术，并赋能到业务中。

任职要求

1. 熟悉C++/Java/Python编程，熟练掌握多线程编程、性能调优、RPC 框架等技术，对Cuda编程有实战经验的优先;
2. 深入了解至少一种深度学习框架（TensorFlow/Pytorch/Megatron/DeepSpeed/Llama-factory等），了解卡间、机间通信技术（比如NVLink、InfiniBand等），有大规模分布式训练调优经验优先；
3. 具有扎实的数据结构和算法设计基础，熟悉操作系统、数据库、网络等计算级基础知识；
4. 责任心强，积极主动，有良好的沟通能力和团队合作能力。