【蚂蚁星】算法工程师-Agent安全-大安全-27届

岗位职责

部门介绍： 我们是蚂蚁集团大安全基础安全部，面向AI时代前沿安全挑战，重点建设下一代智能体安全防护体系，守护企业级AI应用、智能体协作系统及核心业务场景的安全可信运行。团队聚焦智能体安全攻防、AI应用风险治理、对抗性威胁检测、智能体行为管控、安全运营智能化等方向，也在网络对抗、资产认知、威胁情报等基础安全能力上持续深耕。我们正通过大数据、AI和工程化能力，推动安全体系从“人工规则驱动”走向“智能决策驱动”，探索AI时代安全的新范式。这里汇聚了一批毕业于清北等国内外顶尖高校的优秀同学与行业专家，兼具攻防、算法、平台工程和安全产品能力。你将有机会与顶尖人才并肩，在真实复杂的业务场景中参与智能体安全体系建设，共同定义下一代安全技术标准。

职位描述： 定义并构建智能体安全体系。作为智能体安全领域的奠基者，从理论到实践打造下一代AI安全标准，深度结合AI算法与安全攻防，引领行业发展方向，具体包括：

1. 研究大模型在不同模态下的安全对齐技术，解决幻觉、越权行为、记忆污染、A2A风险级联与传播等核心挑战。提出科学问题定义、构建评测体系与防御方法；
2. 构建Agent时代安全治理框架，确保从训练到推理全生命周期的合规与安全，构建AI应用可信环境；
3. 对抗安全与鲁棒性强化，突破传统安全边界，构建跨模态、多Agent交互环境下的全新安全模型，前瞻性定义AI智能体安全的关键指标与评估体系。

任职要求

1. 人工智能、网络安全、计算机科学或相关领域的硕士及以上学位，博士优先；
2. 深厚的机器学习与深度学习理论基础，熟悉Transformer架构及大型语言模型内部机制；
3. 卓越的算法设计与系统架构能力，精通Python，熟练掌握PyTorch/TensorFlow等框架；
4. 系统性理解大模型安全威胁面，包括模型投毒、提示词注入、隐私攻击等核心安全挑战；
5. 对Agent系统架构及其安全挑战有深入认识，能前瞻性预见并设计解决未来AI安全关键问题；
6. 在大模型安全、AI安全、安全分析等相关领域发表过高质量学术论文或拥有专利。

特色标签

["未提及"]、Agent系统、AI对齐、AI智能体、AI治理框架、Prompt注入攻击、Python、云原生、内容安全、分布式训练、发表算法相关优秀论文、多Agent交互、多模态算法、大型语言模型、大数据处理工具(Spark/Hadoop/Hive)、大模型安全、大模型算法、大语言模型、安全、安全合规治理、对抗攻击防护、对抗样本防御、对抗鲁棒性、对齐技术、幻觉攻击、幻觉问题、强化学习、投毒攻击、提示攻击、提示注入、支付、数据安全、数据投毒、智能体、智能体协作、智能体治理、有留学背景、未授权行为、机器学习、权限越界、模型对齐、模型幻觉、模型隐私风险、深度学习、算法工程化经验、网络安全、自然语言处理算法、行为越权、训练数据污染、金融、隐私推断、隐私泄露攻击、隐私计算、风控