千问办公-AI MaaS网关架构师-杭州

岗位职责

1. 负责 MaaS 大模型网关核心链路的设计与研发：多厂商模型接入、协议适配、请求转发、流式响应处理（SSE / WebSocket）。
2. 设计并落地统一的计量计费方案：从流式与非流式响应中精准提取 token / 调用用量，对接计费服务，处理透支冻结、对账等边界问题。
3. 建设与优化分布式异步任务系统：任务调度、Worker 管理、并发控制、失败重试、状态一致性与水平扩展。
4. 保障网关的高可用、高并发与可观测性：限流、熔断、多租户隔离、Prometheus 指标、全链路追踪与容量规划。
5. 主导网关架构演进：抽象可插拔适配器与服务接口，降低新模型/新厂商的接入成本，持续偿还技术债。
6. 参与关键技术选型与方案评审，输出设计文档，把控代码质量与线上稳定性。

任职要求

• 研究生及以上学历，计算机相关专业。
  • 5 年及以上后端研发经验，具备扎实的分布式系统、高并发与网络编程功底。
  • 2 年及以上 MaaS / 大模型网关 / API 网关平台相关开发经验（如模型路由、统一推理接入、API 聚合、计量计费等平台化能力建设）。
  • 熟练掌握 Golang，熟悉 PostgreSQL、Redis、RabbitMQ、对象存储（OSS）等常用中间件的工程实践。
  • 深入理解 LLM API 协议（OpenAI / Anthropic 等）与流式响应机制，有 SSE / 流式转发与用量提取的实战经验。
  • 具备良好的架构抽象能力，熟悉分层架构、适配器模式、依赖注入与接口驱动设计，代码可测试、可维护。
  • 有从 0 到 1 或大规模重构线上核心服务的经验，对稳定性与性能有敬畏心。 "