大安全-AI infra实习生

岗位职责

部门介绍 我们正在建设面向大模型时代的 AI Infra，覆盖训练与推理全链路，支撑万卡级算力集群和真实业务模型的训练、压缩与推理部署，覆盖 CPT、SFT、RL、MoE、多模态等场景。这里不是实验室里的小规模 Demo，而是真实的大模型训练与推理负载和生产级复杂环境。你会接触分布式训练、推理加速、通信优化、算子优化、容错恢复、精度保障、资源调度、异构芯片适配等核心问题，也有机会参与新模型、新架构与训练/推理系统的 Algorithm-System Co-design。 我们希望吸引对 AI Infra 有兴趣、基础扎实、动手能力强的同学，在真实项目中一起解决有挑战的问题。

职位描述

1. 参与大模型训练框架和训练基础设施研发，支持 CPT、SFT、RL、MoE、长上下文及多模态训练；
2. 参与大模型推理框架和基础设施研发，包括模型量化、PD 分离、CUDA Graph、分布式 KV Cache 等推理加速与显存优化技术；
3. 参与 PyTorch、Megatron、FSDP、verl、vLLM、SGLang 等训练和推理体系的适配和优化，学习并实践 TP、PP、DP、EP 等分布式并行方案；
4. 参与大规模训练与推理中的性能分析和优化，包括计算、通信、显存、长尾及资源利用率等问题；
5. 参与 Checkpoint、断点续训、故障恢复、精度比对、可观测等稳定性能力建设；
6. 参与国产及异构 AI 芯片的训练/推理适配与性能优化。

任职要求

1. 熟悉 Python、C++ 中至少一种语言，具备良好的系统设计和工程实现能力；
2. 熟悉 PyTorch 训练/推理机制，对分布式训练、并行策略、显存优化或高性能计算有实践经验；
3. 对 Megatron-LM、FSDP、verl、vLLM、SGLang 等框架中的一种或多种有深入理解；
4. 熟悉 NCCL、RDMA、集合通信、GPU/NPU 算子优化者优先；
5. 熟悉模型量化、PD 分离、投机解码等推理加速技术；
6. 有大模型预训练、MoE、长序列、强化学习训练或千卡级集群实践经验者优先；
7. 喜欢解决真正困难的问题，愿意从模型、框架、系统一直深入到芯片和网络。

特色标签

AI基础设施、C++、Checkpoint恢复、CUDA算子、INT8量化、Kernel优化、Linux开发/部署经验、NPU适配、Python、Sparse MoE、专家并行、专家混合架构、人工智能基础设施、低延迟推理、低比特量化、分布式机器学习、分布式模型训练、分布式经验、国产AI芯片、基础设施、大模型基础设施、大模型系统、大语言模型、张量并行、推理性能优化、故障自愈、数据并行、断点续训、架构设计经验、模型推理优化、模型量化、流水线并行、混合专家模型、自定义算子、英美留学生、超大规模模型、集群训练、非GPU芯片