智能引擎-多模态推理引擎研发工程师/专家-杭州/北京

岗位职责

我们是 HappyHorse 推理工程团队，聚焦行业顶尖的多模态理解和生成模型在 AI 创新应用场景的推理落地，涵盖从推理架构设计、全链路服务编排到性能极致优化的全栈技术挑战。主要工作内容如下：

1. 参与多模态大模型推理引擎的研发，聚焦多模态模型在 图像理解、音频理解、视频理解等任务上的极致性能优化，提升模型对复杂多模态场景的语义分析和推理能力；
2. 负责视频生成模型DiT的深度性能优化，包括但不限于 SP/PP、算子融合、量化、蒸馏、稀疏化等工作；
3. 支持多模态大模型在AI创新应用场景的快速落地，与算法和工程团队协同，解决实际大规模部署过程中的性能和稳定性问题，打造高效、稳定、低延迟的多模态大模型推理引擎。

任职要求

1. 有扎实的工程算法基础，具有模型开发、调试与性能调优的实战经验，熟练掌握 GDB / Nsight 等调试与性能分析工具；
2. 对 LLM 、VLM等大模型结构和原理有深入理解，熟悉常见的 FlashAttention、TP/DP/EP/PP等的原理，了解开源大模型推理服务框架vLLM、SGLang等并有生产调优落地经验者优先；
3. 熟悉Diffusion模型的原理，深度参与过 Diffusion模型的量化、蒸馏、稀疏化等模型性能优化经验者优先；
4. 学习能力强，具有优秀的分析和解决实际问题的能力和态度，对新技术有热情。

岗位标签

NEW