阿里云智能-AI大模型推理优化专家-杭州Company AliyunFocus Tech · AlgorithmLocation 杭州Published August 25, 2026岗位职责 主导大模型推理性能优化:通过算子优化、模型压缩/量化/稀疏化、推理引擎开发及分布式系统设计等技术手段,全面提升大模型在GPU/PPU等异构硬件上的推理速度、系统效率与部署性价比。 开展软硬协同的深度调优:针对不同架构和规模的AI加速硬件(如GPU、专用AI芯片),对KV Cache管理、内存调度、计算图优化等核心模块进行定制化性能调优,突破算力与访存瓶颈。 支撑多模态与前沿模型架构落地:参与大模型推理系统的核心模块研发,支持Transformer、MoE、Diffusion、LLM、VLM等多种架构的高性能推理,并与算法、产品及业务团队紧密协作,实现端到端场景优化。 构建高性能AI基础设施:基于软硬件协同理念,打造业界优秀的AI推理底座,通过融合模型算法与底层硬件特性,释放组合优化潜力,形成显著的性能与成本优势。 追踪和引领技术前沿:持续关注大模型推理领域的新研究成果与开源生态,推动技术创新与工程落地,发掘软硬结合的技术创新,强化技术壁垒与商业竞争力。 任职要求 扎实的专业基础与经验:计算机、人工智能或相关专业,5年以上AI大模型推理系统或性能优化方向工作经验,具备扎实的计算机体系结构知识和大模型技术理解。 出色的工程与编程能力:精通C++/Python,熟练使用主流推理框架(如vLLM、SGLang、TensorRT-LLM)及性能分析工具,具备独立完成高性能模块开发与调优的能力。 丰富的优化实战经验:在大模型推理、算子开发、模型压缩/量化、分布式部署与调度等方面有实际项目经验,熟悉GPU/AI加速库(如cuBLAS、cuDNN、Cutlass)及并行通信技术(如NVLink、模型/流水线并行)。 系统性技术认知:深入理解深度学习算法原理与AI部署全流程,掌握常见的性能瓶颈分析方法与加速优化策略,能从算法到硬件全栈思考问题。 创新与协作:具备快速学习与技术钻研和创新能力,拥有良好的沟通表达与跨团队协作能力,有开源项目贡献(如vLLM/SGLang)、高水平论文、专利者优先。 技术热情和自驱:有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。 AI驱动:会使用AI专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。