大模型推理系统工程师

岗位职责

1. 负责公司各AI推理场景（LLM/多模态/视频等）的推理系统研发和性能优化、资源调度、可观测性搭建、日常维护等工作

2. 与算法团队深度合作，进行算法与系统的联合设计与优化（如模型量化、kvcache量化、投机采样等）

3. 保持关注行业前沿技术，且有能力和热情开展创新研究

任职要求

1. 本科及以上学历，计算机、软件工程、人工智能等相关专业优先

2. 熟练掌握Linux环境下的C/C++与Python语言

3. 精通以下至少一项的背景知识或经验：推理引擎和框架、GPU资源调度、高性能计算与通信、GPU监控和性能分析、模型量化、编译优化等

4. 具有独立解决问题的能力，良好的团队合作精神

5. 有强烈的工作责任心，较好的学习能力、沟通能力和自驱精神

6. 有良好的文档习惯，及时按要求撰写更新工作流程及技术文档