分层 KV 存储工程师

岗位职责

团队介绍： 我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。

1. 主导多级KV Cache架构规划与设计，制定演进路线并推动方案落地；
2. 负责架构方案实施与效果跟踪，建立防劣化机制，提升系统性能与稳定性；
3. 承担跨模块重点项目需求分析与方案设计，形成可复用解决方案并推动落地；
4. 识别关键技术卡点，提出架构优化主张，推动跨团队协作解决难题；
5. 提炼共性开发经验并指导团队，提升成员技术能力与传承。

任职要求

1. 具备分布式KV共享与缓存池化经验，主导过多级缓存架构设计与演进路线制定；
2. 能够制定缓存淘汰策略与容量治理方案，系统性识别并解决性能瓶颈与稳定性风险；
3. 具备从架构规划到落地实施的全流程推动能力，善于提炼共性经验并指导团队提升技术水平；
4. 在跨团队协作中保持开放心态，以开阔视野推动复杂技术方案达成共识并落地执行；
5. 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。

部门

京东科技