岗位职责
团队介绍：Data-语音团队致力于语音、音乐等大模型AIGC技术的研发和产品创新，我们的使命是通过多模态AIGC音频技术赋能内容创作和语音交互，让内容生产、消费与互动变得更加简单、沉浸、多元化。当前团队已有成熟的大模型语音合成、语音理解、音乐生成等多模态音频技术，并持续迭代大模型端到端语音交互方案等，一方面通过中台形式服务于公司众多业务线，例如豆包/Dola、抖音/TikTok、剪映/CapCut、番茄小说、海绵音乐等产品；另一方面，团队已经通过字节跳动旗下的火山引擎开放平台-语音技术和火山方舟平台，向众多企业开放技术成熟稳定的能力和服务。
- 负责构建新一代大模型推理引擎，优化多模态语音理解、语音生成等多模态生成大模型在GPU集群上的推理性能，实现低延迟、高吞吐的工业级部署；
- 主导模型推理性能优化，涵盖CUDA/Triton算子开发、vLLM/SGLang框架升级、分布式推理策略优化、量化、稀疏化等模型efficiency加速优化等；
- 研发GPU推理加速技术栈，设计最佳分布式通算结合方案，优化PCIe通信与高并发推理架构；
- 负责高性能方案前瞻性建设，构建基于C++/Python研发的高性能推理系统；
- 与上下游部门深度合作，分析性能瓶颈，通过软硬结合提升模型训推效率，优化和部署语音大模型，支持AI工具链和技术生态建设，推动字节跳动AI关键业务发展；
- 负责语音多模态场景下高性能推理系统的开发，支撑各业务场景下的性能优化需求并推动业务落地。
任职要求
- 2027届获得本科及以上学历，专业不限；
- 精通Python，熟悉C++特性，具备高性能代码开发能力和相关经验；至少具备以下一个领域经验：GPU编程（CUDA/Triton/AscendC/TileLang开发）、模型量化/稀疏化/蒸馏、基于vLLM的框架研发，并行计算的通算结合（多卡/多机推理优化）；
- 符合以下条件者优先：拥有推理系统经验、具备vLLM/SGLang开发经验、Tilelang/Tritton开发经验，深入了解Transformer架构，有量化/稀疏化等相关技术落地或者论文发表等相关经验。