【蚂蚁星】算法工程师-Agent安全-大安全（实习）

岗位职责

部门介绍： 我们是蚂蚁集团大安全基础安全部，面向AI时代前沿安全挑战，重点建设下一代智能体安全防护体系，守护企业级AI应用、智能体协作系统及核心业务场景的安全可信运行。团队聚焦智能体安全攻防、AI应用风险治理、对抗性威胁检测、智能体行为管控、安全运营智能化等方向，也在网络对抗、资产认知、威胁情报等基础安全能力上持续深耕。我们正通过大数据、AI和工程化能力，推动安全体系从“人工规则驱动”走向“智能决策驱动”，探索AI时代安全的新范式。这里汇聚了一批毕业于清北等国内外顶尖高校的优秀同学与行业专家，兼具攻防、算法、平台工程和安全产品能力。你将有机会与顶尖人才并肩，在真实复杂的业务场景中参与智能体安全体系建设，共同定义下一代安全技术标准。

职位描述： 定义并构建智能体安全体系。作为智能体安全领域的奠基者，从理论到实践打造下一代AI安全标准，深度结合AI算法与安全攻防，引领行业发展方向，具体包括：

1. 研究大模型在不同模态下的安全对齐技术，解决幻觉、越权行为、记忆污染、A2A风险级联与传播等核心挑战。提出科学问题定义、构建评测体系与防御方法；
2. 构建Agent时代安全治理框架，确保从训练到推理全生命周期的合规与安全，构建AI应用可信环境；
3. 对抗安全与鲁棒性强化，突破传统安全边界，构建跨模态、多Agent交互环境下的全新安全模型，前瞻性定义AI智能体安全的关键指标与评估体系。

任职要求

1. 人工智能、网络安全、计算机科学或相关领域的硕士及以上学位，博士优先；
2. 深厚的机器学习与深度学习理论基础，熟悉Transformer架构及大型语言模型内部机制；
3. 卓越的算法设计与系统架构能力，精通Python，熟练掌握PyTorch/TensorFlow等框架；
4. 系统性理解大模型安全威胁面，包括模型投毒、提示词注入、隐私攻击等核心安全挑战；
5. 对Agent系统架构及其安全挑战有深入认识，能前瞻性预见并设计解决未来AI安全关键问题；
6. 在大模型安全、AI安全、安全分析等相关领域发表过高质量学术论文或拥有专利。

特色标签

Agent-to-Agent风险、Agent安全体系、AI代理安全、AI对抗防护、AI幻觉、Data Poisoning、LLM安全对齐、Prompt Injection、Prompt注入攻击、Python、PyTorch/TensorFlow、上下文污染、代理间风险传播、发表算法相关优秀论文、多智能体连锁风险、多模态算法、大模型对齐、大模型幻觉、大模型算法、对抗样本防御、对抗鲁棒性、强化学习、成员推理攻击、提示注入、智能体防护、有留学背景、未授权操作、机器学习、权限越界、模型价值对齐、模型加速/性能优化、模型污染、模型虚构、模型逆向攻击、深度学习、自然语言处理算法、训练数据投毒、记忆投毒、记忆篡改、越权调用、隐私泄露攻击