【快Star】大模型分布式推理框架工程师-【可灵AI】

岗位职责

1. 和领域内最顶尖的算法工程师合作，一起研发业内领先的高性能分布式推理系统，优化目标包括但不限于视频生成大模型、多模态大模型；
2. 对自研多模态推理引擎进行深度优化，提升分布式推理的效率和稳定性；
3. 持续关注并跟进业界技术发展，调研大模型推理优化方向最新论文。

任职要求

1. 计算机、软件工程、人工智能相关专业，熟悉计算机体系结构基础知识；
2. 具备扎实的分布式推理引擎、调度、网络、存储开发经验，了解模型压缩算法（量化/稀疏等）、高性能Kernel开发技术；
3. 具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力、自驱能力。

加分项：

1. 有Nvidia GPU 算子开发经验者优先；
2. 有突出的学术背景和创新研究能力，在相关领域发表过高水平论文、专利；
3. 对大语言系统优化及相关前沿算法有深入务实的实战经验；
4. 熟悉Kubernetes、Mooncake、Ray、AIBrix、Dynamo、vLLM、SGlang等开源项目。