大模型推理框架研发实习生-【可灵AI专项】

岗位职责

1、参与研发业内领先的低延迟、高吞吐的大模型推理优化方案，优化目标包括视频生成大模型、多模态大模型、语言大模型等； 2、参与调研并复现大模型推理优化方向最新论文，具体方向包括高性能算子开发、大模型量化、分布式大模型并行推理等； 3、参与组内服务化框架开发，提升大模型服务部署效率。

任职要求

1、计算机相关专业，熟悉Linux开发环境，熟练掌握 C++/Python编程语言，熟悉常见算法与数据结构； 2、熟悉深度学习相关基础知识，了解Transformer类网络结构特点，了解常见大模型推理优化技术； 3、具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力； 4、加分项：具备CUDA编程能力、熟悉分布式大模型并行推理方案。