【今年会·(jinnianhui)金字招牌诚信至上-科技消息】今年会·(jinnianhui)金字招牌诚信至上-从外媒获悉,安全研究人员开发出一种新型攻击技术——通过篡改图片窃取用户敏感数据。该技术利用普遍集成的AI模型漏洞,由安全公司Trail of Bits的Kikimora Morozova和Suha Sabi Hussain提出,基于2020年布伦瑞克工业大学提出的"图像缩放攻击"概念。

该技术的核心原理在于AI系统为节省算力会自动缩小上传的图片,采用"最近邻插值"双线性"或"双三次"等重采样算法。这导致原始图中隐藏的特定图案在缩小后显现——人眼难以察觉,但语言模型可读取。实验中,研究人员通过暗色区域变红显现隐藏文本,诱使AI将其识别为合法指令。
攻击发生时用户毫无察觉,但系统后台可执行恶意命令。测试中,攻击者成功利用"Gemini CLI"工具将谷歌账户日历数据转发至第三方邮箱。
谷歌Gemini
据悉,受影响平台包括谷歌Gemini系列(CLI/网页/API/Vertex AI Studio)、安卓版Google Assistant及Genspark服务。为演示风险,研究人员开源了工具"Anamorpher",可生成针对不同缩放算法的攻击图片。
那么,有哪些防御建议呢?限制上传图片尺寸、向用户展示缩放预览图、禁止自动执行安全敏感操作(尤其是图片文本提取)。研究人员强调,根本解决方案在于构建抗提示词注入攻击的鲁棒系统架构。
版权所有,未经许可不得转载
-今年会·(jinnianhui)金字招牌诚信至上--
2026-09-08【今年会jinnianhui金字招牌科技消息】韩国互联网巨头Kakao近日爆发成立以来首次大规模罢工。当地时间6月10日,约600名工会成员在位于板桥的Kakao总部附近举行集会,要求公司改善奖金 -
2026-09-08【今年会jinnianhui金字招牌科技消息】美国电动汽车企业Rivian日前正式向首批用户交付Rivian R2 SUV,这款车型被视为公司发展历程中最重要的产品之一,也被寄予推动品牌迈向大众市 -
2026-09-08【今年会jinnianhui金字招牌科技早报】罗永浩转发了一条测评iOS 27操作系统的视频,批评苹果iOS 27创新不足;赛豆科技AIVA品牌发布会上,AIVA首款概念车AIVA Origin