资深游戏AI Infra工程师-【游戏事业部】
Company Kuaishou
Focus Tech · Algorithm
Location 杭州
Published July 15, 2025
岗位职责
1.负责AI平台架构设计和AI工程化技术实现; 2.通过AI基础设施和软硬件协同优化来提升公司AI模型训练和推理的效率; 3. 负责云侧或端侧大模型和小模型推理服务开发、性能优化、上线部署等工作。
任职要求
1.5年以上相关开发经验,熟悉Go/C++/Python/Java等至少两门语言; 2.有TensorFlow、Pytorch使用或者优化经验,有机器学习平台开发经验优先; 3.了解GPU、CUDA、神经网络、RAG等技术,有大模型工程优化经验优先; 4.对AI底层硬软件基础设施,AI工程化和大模型推理优化感兴趣; 5. 了解transformer的结构,了解模型训练、微调和推理的过程和原理; 6. 有以下一项或多项技术能力者优先:
- 有GPU、NPU、ARM、或其他AI芯片等平台上AI落地实践经验; 2)熟悉并行计算和分布式计算技术,有 MPI、OpenMP、CUDA 等编程经验,或有PTX、汇编优化方法;
- 熟悉模型训练框架如Deepspeed、Megatron,pytorch等;
- 熟悉TensorRT-LLM、vLLM、sglang等任一推理框架,有实际操作经验;
- 熟悉多层次的软件优化经验,如模型剪枝/量化/压缩、分布式优化(PD分离)、存储优化、kv-cache优化、动态Batching、IO优化、算子/指令集优化等。