Everything you care about in one place
Follow feeds: blogs, news, RSS and more. An effortless way to read and digest content of your choice.
Get Feederpaper.seebug.org
paper - Last paper
Get the latest updates from paper - Last paper directly as they happen.
Follow now 562 followers
Latest posts
Last updated about 12 hours ago
BLAST：面向协作多智能体深度强化学习系统的隐秘后门杠杆攻击
about 12 hours ago
作者：Jing Fang, Saihao Yan等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2501.01593v2 摘要 现有研究表明，协作多智能体深度强化学习（c-MADRL）极易遭受后门攻击威胁。一旦观测到后门触发器，系统将执行恶意行为，引发任务失败或达成攻击者恶意目的。然而现有后门攻击存在诸多缺陷：瞬时触发模式隐蔽性差、需借助额外网络完成后...
潜在对抗检测：基于大模型激活自适应探测的多轮攻击检测
4 days ago
作者：Prashant Kulkarni 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2604.28129v1 摘要 多轮提示注入遵循建立信任—话题转向—恶意升级的固定攻击路径，但文本层防御手段无法识别单轮对话看似无害的隐蔽攻击。本文发现，该攻击路径会在模型残差流中留下可识别的激活层特征：攻击每个阶段的切换都会引发激活向量偏移，最终累积路径长度远超正常...
GLiGuard：面向大语言模型安全防护的模式条件分类方法
18 days ago
作者：Urchade Zaratiana, Mary Newhauser, George Hurn-Maloney, Ash Lewis 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2605.07982v1 摘要 保障大语言模型（LLM）输出安全合规、符合政策要求，需要能跨多安全维度实时扩展的内容审核机制。然而，当前最优的安全护栏模型均基于70亿–27...
基于大语言模型的 AI 智能体安全威胁与防御系统性综述——分层攻击面框架
20 days ago
作者：Kexin Chu 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2604.23338v2 摘要 智能体AI系统可跨多会话规划、保留记忆、调用外部工具并与对等智能体协同，无状态大语言模型则不具备这些能力。现有安全分类体系按攻击类型（如提示注入、越狱）划分威胁，却未说明脆弱的架构组件或威胁显现的时间尺度。本文直接解决这些结构性问题，提出分层攻击面模型（...
ReTokSync：面向生成式语言隐写的自同步分词消歧方法
21 days ago
作者：Yaofei Wang, Rui Wang, Weilong Pang等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2604.25486v1 摘要 生成式语言隐写（GLS）通过将秘密信息嵌入自然语言生成过程实现隐蔽通信。然而在实际部署中，GLS易受分词歧义影响：相同的表层文本在接收端可能被重新分词为不同的token序列，破坏通信双方共享的解码状...
素域 PINI：后量子 NTT 掩码的机器验证合成定理
23 days ago
作者：Ray Iskander，Khaled Kirah 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/abs/2604.25878v1 摘要 本文是后量子密码掩码数论变换（NTT）硬件形式化验证分析系列论文的第六篇。第一篇论文[1]建立了 QANARY 平台的结构依赖分析，第二篇论文[2]量化了部分 NTT 掩码下的安全裕度。布尔掩码的合成理论通过无干扰（NI）...
Google DeepMind：AI 智能体陷阱
about 1 month ago
作者：Matija Franklin, Nenad Tomašev等 译者：知道创宇404实验室翻译组 原文链接：https://blog.qiaomu.ai/api/images/document/2026/04/603f0cae8cd8ab94-ai-agent-trap.pdf 摘要 自主AI智能体日益在网络中自主行动，它们面临一种全新挑战：信息环境本身。由此产生了一个关键安全漏洞，我们称之...
Google DeepMind：AI 智能体陷阱
about 1 month ago
作者：Matija Franklin, Nenad Tomašev等 译者：知道创宇404实验室翻译组 原文链接：https://blog.qiaomu.ai/api/images/document/2026/04/603f0cae8cd8ab94-ai-agent-trap.pdf 摘要 自主AI智能体日益在网络中自主行动，它们面临一种全新挑战：信息环境本身。由此产生了一个关键安全漏洞，我们称之...
Google DeepMind：AI 智能体陷阱
about 1 month ago
作者：Matija Franklin, Nenad Tomašev等 译者：知道创宇404实验室翻译组 原文链接：https://blog.qiaomu.ai/api/images/document/2026/04/603f0cae8cd8ab94-ai-agent-trap.pdf 摘要 自主AI智能体日益在网络中自主行动，它们面临一种全新挑战：信息环境本身。由此产生了一个关键安全漏洞，我们称之...
合法终端管理软件遭滥用：疑似银狐攻击事件分析与溯源
about 1 month ago
作者：知道创宇高级威胁情报团队 一、事件概述 近期，我们在客户现场应急响应中排查到一起新型攻击事件。攻击者伪造常用工具安装包诱导执行，随即部署一款带有合法数字签名的终端管理软件。经技术溯源确认，该程序具备主机信息收集、远程控制等完整恶意能力，其 C2 基础设施与 “银狐” 高度关联。由于合法数字签名的天然 “免杀” 特性，该恶意程序可轻易绕过主流杀毒软件检测，实现隐蔽入侵与长期控制。 ...
合法终端管理软件遭滥用：疑似银狐攻击事件分析与溯源
about 1 month ago
作者：知道创宇高级威胁情报团队 一、事件概述 近期，我们在客户现场应急响应中排查到一起新型攻击事件。攻击者伪造常用工具安装包诱导执行，随即部署一款带有合法数字签名的终端管理软件。经技术溯源确认，该程序具备主机信息收集、远程控制等完整恶意能力，其 C2 基础设施与 “银狐” 高度关联。由于合法数字签名的天然 “免杀” 特性，该恶意程序可轻易绕过主流杀毒软件检测，实现隐蔽入侵与长期控制。 银狐简介 银...
SkillTrojan：针对基于技能的智能体系统的后门攻击
about 2 months ago
作者：Yunhao Feng, Yifan Ding, Yingshui Tan等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2604.06811v1 摘要 基于技能的智能体系统通过组合可复用技能完成复杂任务，在提升模块化与可扩展性的同时，引入了尚未被充分研究的安全攻击面。本文提出SkillTrojan，一种针对技能实现而非模型参数或训练数据的...