光子 AI-推理部署与优化研究员

岗位职责

1. 推动基于Diffusion的视频模型推理时效率优化；
2. 针对消费级显卡优化推理 pipeline，目标实现端侧高效生成；
3. 设计高并发推理服务，实现多模型路由与灰度发布；
4. 建设端到端超低延迟管线，融合硬件加速编解码；
5. 研发高效视频编码配置，适配实时流媒体协议；
6. 跟踪最新加速方法，探索投机式扩散采样与训推一体优化。

任职要求

1. 硕士及以上学历，系统/AI 推理或音视频流媒体方向；
2. 精通 TensorRT/vLLM 等推理框架，熟悉量化、剪枝、蒸馏，有家用级显卡部署经验；
3. 熟悉扩散模型推理特点，有视频模型推理优化或云游戏系统优化经验者优先；
4. 精通视频编解码原理，熟练使用 ffmpeg 及硬件加速编解码 SDK；
5. 熟悉实时流媒体传输协议，有低延迟音视频传输系统研发经验；
6. 有 FlashAttention/FlashInfer 源码级优化经验者优先；
7. 关注前沿 AI 系统研究，在系统或 AI 顶会（如 MLSys, ASPLOS, OSDI, NeurIPS 等）有推理系统架构设计、CUDA 算子级优化或大模型/扩散模型加速相关方向论文发表记录者优先。

产品/项目

预算专用-光子技术发展部公共产品

工作年限

一年以上工作经验