【蚂蚁星】安全工程师-安全算法-大安全-27届

岗位职责

部门介绍： 蚂蚁集团基础安全部是负责集团整体技术安全的核心部门，致力于保障数十亿用户的数字资产安全。团队经过多年积累沉淀，在安全运营与治理、安全攻防、安全智能化、安全产品与工程方面均有大量产出，具备业界领先的创新能力和实践经验。

职位描述：

1. 负责大模型安全领域前沿技术研究，聚焦Prompt注入、数据投毒、模型越狱、对抗样本、隐私泄露、模型窃取等核心安全风险，开展漏洞挖掘、攻击方法与防护技术的探索与创新；
2. 跟踪国内外大模型安全领域的研究动态、行业规范及技术趋势，结合业务场景开展针对性研究，输出高质量研究报告、技术方案及专利成果；
3. 独立或协同团队开展大模型安全测试、漏洞验证及防护方案设计，落地安全增强技术，提升大模型产品的安全性、合规性与可靠性。

任职要求

必须具备的：

1. 精通大模型安全相关技术，包括但不限于：Prompt 注入、数据投毒、模型越狱、对抗样本生成、模型窃取、隐私泄露防护、输出内容合规性检测等；
2. 具备较强的代码开发能力，熟练掌握至少一种编程语言（Python、C++、Java 等），能够独立开发大模型安全测试工具、漏洞挖掘脚本或防护方案；
3. 熟悉主流大模型（如 GPT、LLaMA、Qwen、ERNIE 等）的架构特性，了解模型训练框架（PyTorch、TensorFlow 等），能够基于框架进行安全相关的实验与验证；
4. 掌握网络安全、数据安全相关知识，了解常见的安全协议、加密算法，具备漏洞挖掘、渗透测试相关经验者优先。

可以加分的：

1. 在安全领域的顶级工业会议（BlackHat、DEFCON）以及学术会议（BIG4）发表研究成果者优先；
2. 参与过国家级、省级大模型安全相关科研项目，或有头部互联网、AI 企业大模型安全研究相关工作经历者。

特色标签

AIGC内容治理、Burp Suite、C/C++、Docker、Java、Kubernetes、Nmap、Prompt攻击、Python、PyTorch框架、SQLmap、TensorFlow框架、TF深度学习框架、Torch深度学习框架、信息安全相关专业、内容安全审核、大模型安全性、大模型安全防护、大模型越狱、安全、安全产品/平台开发经验、安全体系架构和研发、安全大模型、安全边界突破、安全运维经验、对抗性输入、对抗扰动样本、对抗攻击样本、恶意数据注入、成员推断泄露、指令注入、提示词注入、攻防对抗经验、数据安全、数据污染、模型复制、模型盗用、模型绕过、模型逆向工程、模型隐私泄露、渗透测试经验、生成内容合规检测、网络安全、网络安全相关经验、英文可沟通、计算机相关专业、训练数据污染、训练数据泄露