AI推理平台-百炼网关研发工程师/专家-杭州/北京

岗位职责

1. 设计并实现高性能AI原生网关。构建低延迟、高并发的网关系统，支持多模态、多协议接入，为国内及全球客户提供灵活、安全、可扩展的流量接入方案，提供完整的数据面控制与可观测能力。
2. 提供AI 安全防护 和 流量防护能力，提供智能的，柔性流控策略，应接尽接，最大限度确保合法流量进入。
3. 提供流量调度能力，支持就近接入，Global/Local 调度，Fast/普通模式调度，极致性能转发，软硬一体，确保最短RT 和体验。
4. 提供流量千人千面的AI流量调度能力，构建AI时代的高速神经网络，提供多模态世界高速传输网络。

任职要求

1. 计算机/人工智能相关专业硕士及以上学历，熟练掌握 C++/Golang至少一种语言，有很好的抽象能力。
2. 熟练掌握Linux/Posix操作系统下各种概念和原理，了解多线程，异步编程设计和高效的开发、调试方法。
3. 熟悉微服务架构、分布式系统设计，有网关、调度系统、k8s或云原生平台开发经验者优先。
4. 具备良好的抽象能力、工程判断力和跨团队协作意识，追求极致的系统性能与稳定性。

加分项：

1. 熟悉开源Higress / SGlang Gateway / Nginx / Envoy， 对推理引擎领域开源项目有持续关注。
2. 有过高性能计算领域文章发表等相关经验

岗位标签

NEW