资讯
再这样下去,Agent要被卖保健品了
📋总体概括
文章聚焦AI Agent面临的新型安全威胁:隐藏指令攻击(Prompt Injection)。骗子在网页屏幕外-9999像素位置埋入人类不可见、但Agent能读取的诱导指令,例如伪装成软件许可证骗Agent支付3美元。研究人员测试发现多个主流模型均上当付款。作者指出,传统诈骗需精心伪装骗过人类,而Agent的出现让骗子只需攻破替主人办事的AI即可,安全能力不足却权限过大的Agent极易沦为受害者,强调Agent安全防护刻不容缓。
⚡关键信息
- ▸假网站在屏幕外-9999像素处隐藏指令,人类不可见但Agent可读取并执行
- ▸诱导话术伪装成软件许可证,骗Agent支付3美元,多个受测模型上当付款
- ▸传统诈骗需骗过人类,Agent时代骗子只需攻破替主人办事的AI即可
- ▸核心风险在于Agent安全能力不足却被赋予过多操作权限,易被利用造成实际财产损失
🔥犀利点评
这事最讽刺的地方在于:我们造AI是替人省心,结果骗子最先学会把它当提款机。隐藏指令攻击门槛极低,收益却是实打实的钱,攻防严重不对称。厂商一边急着给Agent接支付、开权限抢场景,一边把安全当后置选项,本质是在拿用户钱包跑马圈地。安全能力不达标就上线全权限Agent,不是创新,是把人质先押给黑产再慢慢赎。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文 →