阿里云智能-AI Infra大模型推理软硬件结合优化-杭州

岗位职责

1. 主导大模型推理性能优化：通过算子优化、模型压缩/量化/稀疏化、推理引擎开发及分布式系统设计等技术手段，全面提升大模型在GPU/PPU等异构硬件上的推理速度、系统效率与部署性价比。
2. 开展软硬协同的深度调优：针对不同架构和规模的AI加速硬件（如GPU、专用AI芯片），对KV Cache管理、内存调度、计算图优化等核心模块进行定制化性能调优，突破算力与访存瓶颈。
3. 支撑多模态与前沿模型架构落地：参与大模型推理系统的核心模块研发，支持Transformer、MoE、Diffusion、LLM、VLM等多种架构的高性能推理，并与算法、产品及业务团队紧密协作，实现端到端场景优化。
4. 构建高性能AI基础设施：基于软硬件协同理念，打造业界领先的AI推理底座，通过融合模型算法与底层硬件特性，释放组合优化潜力，形成显著的性能与成本优势。
5. 追踪和引领技术前沿：持续关注大模型推理领域的最新研究成果与开源生态，推动技术创新与工程落地，发掘软硬结合的技术创新，强化技术壁垒与商业竞争力。

任职要求

1. 扎实的专业基础与经验：计算机、人工智能等相关专业，3年以上AI Infra、大模型推理系统、算子研发、性能优化、分布式优化等方向工作经验。
2. 丰富的大模型经验：精通C++/Python，熟悉并掌握主流推理框架（如vLLM、SGLang、TensorRT-LLM）、常用的端到端/系统/算子性能分析工具，有丰富的大模型实战经验 (LLM、多模态、DiT、世界模型等)，具备独立完成从端到端到模块化的分析和调优的能力。
3. 扎实的优化经验：在大模型推理加速、算子开发、模型压缩/量化、分布式、PD分离等方面有实际项目经验，熟悉GPU/AI加速库（如cuBLAS、cuDNN、Cutlass）及并行通信技术（如NVLink、模型/流水线并行）。
4. 系统性技术认知：深入理解AI Infra大模型算法原理与推理部署全流程，掌握常见的性能瓶颈分析方法与加速优化策略，具备跨技术栈的体系化优化技术栈，软硬件结合的优化能力，能从模型到硬件全栈思考问题。
5. 创新与协作潜力：具备快速学习与技术钻研和创新能力，拥有良好的沟通表达与跨团队协作能力，创新意识强，有开源项目贡献（如vLLM/SGLang）、高水平论文、专利者优先。
6. 技术热情和AI驱动：有强烈技术热情和好奇心，自驱力和学习力强；具备良好的分析与解决问题的能力、沟通以及团队合作能力，能够持续推动问题的解决和突破。具备AI Native意识，能够高效使用AI专业工具提升研发优化效率，将AI有效转化为生产力

岗位标签

NEW