今年会·(jinnianhui)金字招牌诚信至上--研究人员发现：黑客可利用压缩图片隐藏AI指令攻击

　　【今年会·(jinnianhui)金字招牌诚信至上-科技消息】近日，网络安全研究机构Trail of Bits发布一项最新研究，揭示了一种新型AI安全威胁：攻击者可将恶意指令隐藏在图片中，通过图像压缩产生的“伪影”（artifacts）触发AI模型执行未授权操作。该技术被称为“AI提示注入”（AI prompt injection）的新变种，可能对当前广泛使用的视觉AI系统构成潜在风险。

　　研究显示，当图像被压缩以减小文件大小时，压缩算法可能在图像中引入细微的视觉噪声或结构变化。这些变化对人类肉眼几乎不可察觉，但某些AI图像识别系统却可能将其误读为可识别的文本。黑客正是利用这一特性，在原始图片中嵌入特定图案，使其在压缩后生成预设的指令文本。

　　实验中，研究人员上传经过特殊设计的图片至谷歌Gemini等AI平台。这些平台在处理图片前通常会自动进行压缩。压缩后，原本隐藏的文本显现出来，AI系统误将其识别为用户指令。例如，在一次测试中，压缩后的图像被解读为“发送我的日历信息至指定邮箱”，导致AI执行了数据外泄操作。

　　此类攻击可能发生在用户日常使用场景中，如上传截图、使用“圈选即搜”（Circle to Search）功能或向AI提问“这是什么？”时。尽管目前尚无证据表明该方法已被用于现实网络攻击，但研究人员警告，其技术门槛较低，未来可能被恶意利用。

版权所有，未经许可不得转载