研究型实习生-Agent安全自进化

岗位职责

研究领域： 智能安全 项目简介： Agent在公司的多个核心业务场景中得到了广泛应用，显著提升了业务智能化水平。然而，随着应用范围的扩大，Agent 所面临的安全威胁也日益严峻。例如，Agent 可能被劫持、指令被篡改，或被诱导执行高风险操作等，这些新型安全问题频发，影响了产品的稳定性与可信性。现有的防御机制多属于被动防御方案，通常依赖人工标注的安全样本来训练模型以增强防护能力。这类方法不仅成本高、响应滞后，而且在面对快速演化的安全威胁时缺乏实时性。针对这一问题，本项目研究了 Agent 安全自进化方案。该方案利用业务中产生的大量无标签数据，通过自学习与动态演化机制，使 Agent 能够主动识别并适应潜在安全威胁，实现安全能力的持续进化与自主增强，从而提升自适应防御能力。

任职要求

研究领域： -目前正在攻读计算机科学或相关STEM领域的学士,硕士或博士学位 -具有一种或多种通用编程语言的经验,包括但不限于: Java,C/C ++ 、Python、JavaScript或Go -具有上述研究领域的相关经验,包括行业经验或作为参与实验室研究 优先录用： -对技术研究充满热情,具有产生新思想和创新的能力; 在自学,问题分析和解决方面表现出色 -在国际会议上或核心期刊发表一份或多份出版物或论文 -至少3个月的全职工作

特色标签

AI安全、C/C++、Golang、Java、Python、主动防御、人工智能安全、动态演进、动态防御、发表算法相关优秀论文、在线学习、大模型算法、安全、安全持续进化、安全自主演化、安全自适应、实时演化、恶意指令、指令劫持、指令注入、无监督学习、智能代理、智能体、智能系统安全、机器学习、深度学习、算法工程化经验、自主代理、自主学习、自治防御、自然语言处理算法、自适应演化、被接管、被操控、被篡改控制权