大模型推理优化专家

岗位详情

工作职责: 岗位职责

1. 推理引擎架构自研：针对视频大模型时空迭代、长序列生成特性，设计端到端专属推理架构，完成链路拆解、模块标准化，搭建适配视频场景的训推一体推理底座。
2. 底层模块与算子开发：独立研发视频模型专属时序推理、扩散采样、帧间交互等核心模块，手写高性能CUDA自定义算子，补齐通用框架能力短板，保障推理链路稳定可扩展。
3. 推理工程化落地：负责模型权重适配、格式转换与推理链路闭环，实现视频生成、视频理解全场景推理标准化，支撑模型快速迭代与批量上线。
4. 分布式推理底座搭建：完成 GPU全系列适配，设计实现单机高性能、多机分布式并行推理架构，支撑高清、长视频大规模推理部署场景。
5. 工具链与体系建设：搭建推理评测、调试、效果对齐工具链，制定研发与部署规范，构建完整的视频大模型推理工程体系，赋能团队高效迭代。 工作要求: 任职要求
6. 本科及以上学历，计算机、人工智能等相关专业，3年以上大模型推理引擎架构自研、底层开发经验，有视频/多模态时空模型开发经验优先。
7. 精通C++/CUDA与GPU并行计算，具备独立开发自定义高性能算子、重构推理链路的实战能力。
8. 熟悉TensorRT、ONNX Runtime、vLLM等主流推理框架底层原理，具备框架二次开发与定制化改造能力。
9. 深入理解Transformer、Diffusion模型架构，熟悉视频大模型时序推理、帧迭代生成、时空注意力机制核心逻辑。

加分项

1. 有视频生成/理解大模型推理引擎从零搭建、工业级落地经验。
2. 具备分布式推理、动态调度底座自研经验，可独立搭建端到端推理工程体系。
3. 熟悉训推协同优化，可联动训练团队解决训推不一致、模型适配等底层问题。
4. 有开源推理框架贡献、算子开源、技术专利等相关沉淀。