U
技术突破

ChatGPT Mac版曝漏洞,敏感数据或遭窃取

德国安全研究员发现ChatGPT macOS应用漏洞:长期记忆可被注入虚假信息,敏感数据可经图片请求外泄。OpenAI已在1.2024.247版本修复并敦促用户更新,此事表明AI软件本身正成为攻击目标。

👁 146阅读 💬 0评论
ChatGPT Mac版曝漏洞,敏感数据或遭窃取
📝 全文约 1850 字 · 预计阅读 5 分钟

当整个行业都在热议AI智能体的“黑客能力”时,一起刚被修复的漏洞提醒人们:AI软件本身,同样是攻击者眼中最诱人的目标。据WIRED报道,德国安全研究员Johann Rehberger在ChatGPT的macOS桌面应用中发现一处高危漏洞:攻击者既能篡改应用的长期记忆,又能借助图片渲染缺陷,把用户的敏感数据悄悄发送到外部服务器。OpenAI随后发布修复版本,但这一事件为快速扩张的AI桌面应用生态敲响了警钟。

一条“虚假记忆”,就能打开数据外泄通道

ChatGPT的长期记忆功能本意是提升体验:应用会记住用户的偏好、习惯与背景信息,并在后续对话中自动调用。Rehberger发现,这套机制在特定条件下可被“投毒”。攻击者只需诱导用户访问一个恶意网页或打开一份精心构造的文档,其中隐藏的提示注入(prompt injection)指令就能让ChatGPT“记住”一条编造的虚假信息,比如“该用户居住在某地址”“该用户此刻正在某地办公”。

虚假记忆一旦写入,危害便会持续发酵。此后无论用户让ChatGPT帮忙写邮件、整理资料还是回答问题,聊天机器人都可能把这些被污染的“事实”一并编入输出,而用户毫无察觉。更关键的还在于外泄通道:浏览器版ChatGPT此前已对Markdown渲染做了较严格的沙箱化处理,Mac桌面应用却未落实同等防护——Markdown语法的图片会被应用直接请求加载。

据此,Rehberger拼出了完整的攻击链:诱导ChatGPT在回答中输出一条Markdown图片链接,并把记忆中的敏感信息嵌入图片URL。应用自动加载图片的瞬间,数据便随请求发送到攻击者控制的服务器,全程无需用户点击任何东西,几乎无感完成。

老对手提示注入:从插件到桌面应用

对Rehberger来说,这次发现并非偶然。早在2023年5月,他就演示过利用ChatGPT插件机制的同类攻击:通过构造提示注入,让AI在用户毫不知情的情况下,把插件读取到的数据(如来自Google Drive的文档内容)发送到外部地址。当时他就警告,“AI注入”式攻击将成为大模型应用的长期隐患,而一年多后,问题以新的形态再次出现。

向OpenAI报告后,厂商的响应相对迅速。OpenAI发言人表示,相关漏洞已在桌面应用1.2024.247版本中修复,并敦促用户保持应用更新。不过值得注意的是,对于“记忆功能可被注入虚假信息”这一点,责任边界仍有讨论空间——它究竟算安全缺陷,还是功能“按设计工作”的副作用,业界尚无定论。这种模糊地带,恰恰是AI产品安全管理面临的新难题。

桌面客户端为何比网页版更“危险”

ChatGPT的macOS桌面应用于2024年推出,凭借快捷键唤起、截屏对话等功能迅速积累人气。但桌面客户端天然拥有更大的权限面:它长期驻留系统、承载更丰富的上下文、与操作系统集成更深,一旦记忆或渲染机制出问题,影响远比一个浏览器标签页更大。浏览器版之所以相对安全,正是因为针对Markdown图片、外链渲染等早已做过专门缓解,而桌面端此前缺少这一层防护。

这次事件也印证了安全社区的共识:提示注入至今没有彻底的工程解法。大模型无法可靠区分“用户指令”与“内容中夹带的指令”,任何被模型读取的网页、文档、邮件都可能成为注入载体。当这类内容能触发“记住信息”“以特定格式输出”等行为时,一个AI应用就可能被改造成攻击者的数据窃取器。

行业警示:AI既是“矛”,也是“盾”

近年来,AI安全讨论大多集中在“AI能不能帮黑客写恶意代码、自动挖漏洞”上,即把AI当作攻击的放大器。WIRED记者在报道中点出了长期被忽视的另一面:

当人们聚焦AI智能体的黑客能力时,一个刚刚被修复的ChatGPT应用漏洞表明:AI软件本身就是一个诱人且脆弱的攻击目标。

这意味着企业部署AI助手时,不能再只把它当作效率工具,而应把它纳入完整的安全模型:它拥有权限、存储记忆、接触数据,就需要相应的最小权限、输出过滤与审计机制。对开发者而言,渲染沙箱、链接白名单、记忆内容来源标注等防护,都应成为AI客户端的“出厂默认”,而不是事后补丁。

对普通用户而言,最直接的应对是把ChatGPT桌面应用升级到1.2024.247或更高版本,并对来源不明的网页和文档保持警惕。更长远看,随着AI助手加速走向桌面端与操作系统底层,围绕记忆、上下文与渲染机制的攻防才刚刚开始。这次漏洞最终被快速修复,说明厂商的响应机制有效;但它也提醒所有人:AI软件既是这场技术革命的主角,也已成为网络安全战场上的新前线。

💬 评论