【快Star】大模型分布式推理框架工程师

岗位职责

1、和领域内最顶尖的算法工程师合作，一起研发业内领先的高性能分布式推理系统，优化目标包括但不限于视频生成大模型、多模态大模型； 2、对自研多模态推理引擎进行深度优化，提升分布式推理的效率和稳定性； 3、持续关注并跟进业界技术发展，调研大模型推理优化方向最新论文。

任职要求

1、计算机、软件工程、人工智能相关专业，熟悉计算机体系结构基础知识； 2、具备扎实的分布式推理引擎、调度、网络、存储开发经验，了解模型压缩算法（量化/稀疏等）、高性能Kernel开发技术； 3、具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力、自驱能力。

加分项： 1、有Nvidia GPU 算子开发经验者优先； 2、有突出的学术背景和创新研究能力，在相关领域发表过高水平论文、专利； 3、对大语言系统优化及相关前沿算法有深入务实的实战经验； 4、熟悉Kubernetes、Mooncake、Ray、AIBrix、Dynamo、vLLM、SGlang等开源项目。