训练优化工程师 (JR20260519004)

岗位职责

负责大模型训练框架的开发、优化， 跟踪大模型训练优化前沿技术，并将其应用于自动驾驶大模型的训练； 负责自动驾驶模型训练相关的资源及效率优化，深入分析大模型训练瓶颈，从数据处理、模型计算、多机通信、显存优化等多角度全链条开展优化； 负责模型训练稳定性工具建设，能在模型训练异常时，通过监控指标及时发现问题原因并解决； 从计算专业角度，赋能算法，影响算法设计硬件友好的模型结构；

任职要求

任职要求：

1. 熟悉深度学习训练流程，精通PyTorch框架，了解常见模型结构及训练原理；
2. 熟练掌握 Python/C++ 编程语言，具备工具开发能力，能独立设计并实现性能优化工具；
3. 熟悉 GPU 架构、cuda编程及相关性能分析工具Nsight Compute、Nsight System等，具备模型训练优化经验，及实际业务优化落地经验。 熟悉多机训练通信策略及通信优化；
4. 良好的沟通协作能力，能清晰理解业务需求并转化为技术方案；对AI算力优化有浓厚兴趣，具备较强的问题分析与解决能力。 加分项：
5. 熟悉PyTorch等深度学习框架实现细节、原理及分布式训练流程。
6. 熟悉 Megatron-LM，DeepSpeed等主流分布式框并行加速库，或者熟悉分布式训练并行技术。
7. 熟悉高性能异构计算及感兴趣的同学。

部门

Voyager