GPU虚拟化高级研发工程师（J100463）

岗位职责

-负责公有云 GPU 虚拟化底层内核模块的研发，包括 KVM/QEMU 虚拟化层优化、GPU 驱动内核态适配与改造，推动 GPU 虚拟化产品（sGPU/vGPU/cGPU/MIG）的技术演进 -参与 GPU 实例运行时在线诊断体系建设，研发面向 GPU 卡、NVSwitch、驱动、NCCL 通信等各层的健康检测、故障自愈与根因定位工具 -负责 GPU 实例全栈性能调优，覆盖 IOMMU/SR-IOV 直通、P2P 通信、NVLink 拓扑、大页内存、NUMA 亲和等关键路径，驱动端到端性能提升 -负责内核态 GPU 驱动开发与定制，包括驱动重构、驱动热升级、多版本驱动管理框架建设 -负责 GPU 虚拟化场景下的算力隔离与混部调度，研究显存隔离、算力切分等关键机制 -面向 LLM 推理场景，研究 KVCache 分层存储与虚拟化支撑：设计 GPU 显存 → CPU 内存 → NVMe 的 KVCache 分级 offloading 机制（参考 LMCache/vLLM L2 Cache），支持跨推理实例的 P2P KVCache 共享与迁移，减少显存碎片化，提升高并发推理下的显存利用率与 TTFT 延迟 -面向 Agentic AI 场景，探索多 Agent 并发下的 GPU 资源隔离与沙箱安全方案：基于 MPS/MIG/SR-IOV 实现 Agent 间 GPU 算力与显存的强隔离，防范 Agent 间显存越界与信息泄露，支撑 AI 平台代码执行沙箱的 GPU 安全访问 -跟踪内核社区（lore.kernel.org/kvm）、NVIDIA 开源驱动及 GPU 虚拟化领域最新技术进展，推动关键技术在产品中落地

任职要求

-基础要求 -本科及以上学历，精通 C/C++ 语言，熟悉 Shell、Python 等脚本语言 -扎实掌握 Linux 内核基础，理解内存管理、进程调度、设备驱动、中断处理等核心子系统 -具备内核模块开发与调试能力，熟悉 ftrace、perf、eBPF 等内核诊断工具 -核心优先 -熟悉 KVM/QEMU 虚拟化框架，有设备直通（SR-IOV/VFIO）开发经验者优先 -熟悉 NVIDIA GPU 驱动架构（用户态 + 内核态），了解 nvidia.ko 模块、UVM 驱动、NVSwitch/NVLink 工作机制者优先 -有 GPU 在线诊断工具研发经验（DCGM、健康检查、故障根因分析）者优先 -有 GPU 性能调优经验（NCCL 通信调优、P2P 性能分析、PCIe/NVLink 拓扑优化、大页/NUMA 调优）者优先 -熟悉 CUDA、cuDNN、NCCL 等异构计算软件栈，理解 AI 训练/推理场景的资源使用模式者优先 -加分项 -有 GPU 显存隔离（UVM、MPS、MIG）或算力混部调度相关开发经验 -熟悉 eBPF/ftrace 在 GPU 驱动层的性能分析应用 -有 K8s GPU 插件（device-plugin）或 AI 计算调度相关经验 -了解 LLM 推理框架（vLLM/TensorRT-LLM/SGLang）的 KVCache 管理机制，包括 PagedAttention、Chunked Prefill、Disaggregated Prefill/Decode 架构；有显存碎片优化、KVCache offloading（GPU→CPU→NVMe）或跨节点 KVCache P2P 共享实践经验者优先 -了解 Agentic AI 平台架构（工具调用、多步推理、代码解释器等场景），有多 Agent 并发 GPU 资源隔离、GPU 沙箱安全设计或推理加速框架集成经验

部门/组织

单机研发组