大模型平台工程师

岗位职责

1. 负责大模型平台的架构优化，和算法一起提升大模型能力、推进落地;
2. 负责新技术调研和预研，紧跟大模型方向的前沿技术;
3. 设计&优化大模型训练&推理框架，通过深度优化CUDA kernel、KV Cache等优化框架性能;

任职要求

1. 计算机、人工智能或相关专业本科以上学历, 1年以上的机器学习平台相关经验;

2. 熟悉Cuda编程，至少熟悉cutlass、Triton等某一种高性能库

3. 了解常用的大模型结构，对模型工程的关键问题有较为一定的理解

4. 具有良好的沟通能力和团队合作能力，具有优秀的分析和解决问题的能力和态度;

5. 熟悉c++/python任意一门语言；