大模型开发工程师(多模态方向)

岗位职责

1. 负责大模型训练框架的开发和维护，以提高训练平台效率和稳定性为主要目标

2. 负责大模型的部署和优化， 包括服务效率和稳定性提升，gpu/cpu部署和 资源调度, 数据IO和模型推理加速

3. 负责大模型的业务探索，与算法团队和业务团队紧密配合，提升业务收益

任职要求

1. 具备扎实程序设计能力，熟悉python，掌握java/c++语言

2. 熟悉至少一个大模型应用或推理框架， 如VLLM，TGI, TensorRT-LLM, lightLLM等

3. 有AI模型部署经验，项目落地工程经验，参与过跨部门/团队协作项目

4. 熟悉大模型工程技术， 如梯度压缩/PD分离/KV Cache/AllReduce等等

5. 了解大模型常用的硬件特性和硬软件加速方案，如RDMA，NVLink，混合精度等等；

6. 有较好的沟通和协作能力