大模型平台策略推理优化工程师（J97422）

岗位职责

-负责千帆MaaS平台级推理降本与效率优化策略设计与落地，并支持定制化推理性能优化 -负责量化、投机推理（MTP / speculative decoding / Eagle）等训练–推理协同优化方案的设计与落地 -负责建设大模型推理性能评测与收益评估体系 -前沿技术落地：调研并落地大模型推理多维度优化技术，包括但不限于模型量化（INT4/INT8/FP8，含PTQ/QAT两种方式）、MTP投机推理优化、结构化剪枝与稀疏化等，持续提升推理效率与资源利用率，降低部署成本。

任职要求

-教育背景： 计算机、人工智能等相关专业本科及以上学历。 -编程功底： 熟练掌握 Python、 PyTorch，具备扎实的数据结构与算法基础，具备良好的工程实现能力。 -大模型经验：熟悉 Transformer 模型结构与推理流程（prefill / decode / KV cache / attention），理解推理性能瓶颈及其与训练策略（量化、蒸馏、MTP）的关联 -加分项 -参与过 vLLM / SGLang / TensorRT-LLM 等推理系统优化 -有量化感知训练（QAT）或 MTP 训练 实践经验 -熟悉 EAGLE / Medusa / MTP variants（如DeepSeek MTP、MiMo MTP） 等投机推理或高效推理方案 -有大规模线上推理服务优化经验