蚂蚁集团-多模态大模型RL及infra技术专家-杭州/北京【AGI专项】

岗位职责

1. 负责大模型分布式训练和推理研发，持续优化提升大模型训练框架(基于 MegatronLM ) ，或推理框架(基于 sglang 或 vllm ) 的性能；
2. 深度参与原生多模态大模型研发，实现基于MoE的多模态大模型架构和训练推理框架协同co-design，实现千亿级模型高效训练。

任职要求

1. 具有至少 2 年以上的AI系统/任务调度/高性能并行计算领域研发经验；
2. 熟悉 Transformer/MoE 等大模型结构原理、分布式调度系统、大模型训练/推理/Agent 系统、高性能软硬件架构等任一领域的专业知识；
3. 熟悉 sglang、vllm、megatron 等训推框架和大规模训推优化、GRPO/PPO/DPO 等 RL 算法、AReaL/veRL/openRLHF 等强化学习框架的优先；
4. 对新技术有强烈好奇心，具备较强的团队合作能力，逻辑思维清晰、沟通表达能力强 。

加分项：

1. 在多模态/语言大模型/计算机视觉领域的国际顶级会议/期刊上发表过高质量论文；
2. 熟悉常见的大模型结构，有多模态大模型实际工程优化经验优先。

岗位标签

NEW

特色标签

C/C++、GPU分布式训练、Megatron、Mixture of Experts、PagedAttention、Python、Reinforcement Learning、低延迟推理、分布式机器学习、分布式计算、分布式训练、发表算法相关优秀论文、多模态AI、多模态算法、大型语言模型、大模型服务框架、大模型算法、大模型训练框架、并行计算、并行训练、序列决策学习、强化学习、快速推理框架、推理优化工具、推理系统、模型加速/性能优化、模型推理加速、深度学习、深度学习模型、混合专家模型、离策略学习、稀疏激活网络、策略优化方法、算法工程化经验、视觉语言模型、跨模态学习、预训练模型、高吞吐推理系统、高效推理引擎