【快Star】大模型高性能推理算子工程师

岗位职责

1、和领域内最顶尖的算法工程师合作，一起研发业内领先的大模型推理优化方案，优化目标包括但不限于视频生成大模型、多模态大模型； 2、调研大模型推理优化方向最新论文，方向包括但不限于低bit量化、通算融合、高性能sparse attention算子等。

任职要求

1、计算机、人工智能相关专业，熟悉Linux开发环境，熟练掌握 Python编程语言，熟悉常见算法与数据结构； 2、熟练使用NSYS、NCU等性能分析工具，有使用vLLM、SGLang、TensorRT-LLM、xDiT等开源框架经验； 3、熟悉分布式推理场景下的各类通信机制，能够针对特定场景设计最优通信方案，了解 DeepEP、Triton-distributed 等开源通信方案原理； 4、具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力、自驱能力；

加分项： 1、有Nvidia GPU （ Hopper、Blackwell ）算子开发经验者优先； 2、具备Cute、TileLang、Triton等DSL开发经验； 3、具备低bit量化 kernel 开发经验； 4、在 ICLR、NeurIPS、ICML 等顶会发表过相关论文。