阿里国际站-大模型推理工程师/专家-杭州

岗位职责

1. 负责大模型训练和推理系统的研发和性能优化，包括性能计算性能优化，大模型推理框架，大模型流量调度，高效 CUDA 算子开发，低精度计算，高并发服务请求优化等打造领先的推理引擎。
2. 负责大模型训练和推理等前瞻性技术架构的调研和引入，不限于子图匹配、编译优化、模型量化等。
3. 与算法团队深度合作，进行算法和系统的联合优化，包括分析业务性能瓶颈，通过软硬结合的 方式，高效部署和优化 AIGC 核心业务模型，建设 AI 工具链等能力，支撑 AI 业务的高速发展。

任职要求

1. 熟练掌握 linux 环境下的 C++/Python 语言，有大规模机器学习或搜推广经验者优先。
2. 至少掌握一种机器学习框架（Tensorflow，Pytorch 或其他自研框架）。
3. 至少熟悉一种大模型训练/推理框架，诸如 vLLM、TensorRT-LLM、SGlang 等。
4. 具有独立解决复杂问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力。
5. 有强烈的责任心，技术研究精神，沟通能力和自驱力。
6. 理解 GPU 硬件架构，理解 GPU 软件栈（CUDA，cuDNN），具备 GPU 性能分析经验优先。