蚂蚁集团-AI安全攻防工程师-杭州

岗位职责

1. 负责 LLM/Agent 应用的运行时安全防护体系建设：提示词注入（直接/间接/多轮渐进）、越狱、越权调用、工具/记忆/ RAG 投毒、数据外泄等风险的检测、拦截与处置。
2. 设计并落地AI原生攻防对抗体系，以AI对抗AI，实现"评测-感知-处置-溯源-补防"对抗闭环。
3. 跟踪和研究LLM/Agent 应用面临的各类攻击技术和安全风险，并基于业务实际落地场景探索、设计、落地防御对抗方案。
4. 跟踪国内外 Agent 攻防前沿，将新技术快速转化为行业实践。

任职要求

1. 本科及以上学历、网络安全、AI安全等相关专业，具备扎实的网络安全/算法专业背景基础和较强的学习能力优先。
2. 有LLM/Agent 安全对抗或研究相关背景和经历。
3. 对 LLM/Agent 工作原理有真实认知，有 LLM 微调/评测/Guard 模型训练经验优先。
4. 具有良好的沟通协调能力、较强的团队合作精神、优秀的执行能力。
5. 具备强烈的进取心、求知欲有技术热情，具备良好的数据洞察及问题分析能力。

岗位标签

NEW

特色标签

AI代理、Docker、Jailbreak、Kubernetes、Prompt注入、Python、Retrieval-Augmented Generation、不限、信息安全相关专业、信息泄露、大模型、大语言模型、威胁感知、安全、安全产品/平台开发经验、安全体系架构和研发、安全护栏模型、对抗攻防、提示注入攻击、攻击与防御、攻防对抗经验、数据安全、数据泄露、智能体、检索增强生成、模型越狱、测试、监测、网络安全、网络安全相关经验、计算机相关专业、评估、防护模型