9 月 19 日消息，科技媒体 Android Headline 昨日（9 月 18 日）发布博文，报道称网络安全公司 Radware 发现 ChatGPT“深度研究”（deep research）功能存在漏洞，黑客可通过特制邮件诱导其在处理 Gmail 查询时，将敏感信息发送至恶意网站。
IT之家注：ChatGPT 的“深度研究”可分析来自 Gmail、Google Drive 等应用的大量信息，Radware 公司指出黑客利用该漏洞，可发送包含隐蔽指令的邮件。在用户请求 ChatGPT 针对邮箱执行深度研究后，系统会被诱导将敏感数据传送至黑客控制的网站，信息可能涉及姓名、地址等隐私。
不同于传统攻击方式，此次事件的特殊之处在于，AI 本身被操纵成为数据窃取的执行者。攻击需满足多个条件，例如用户的查询主题需与恶意邮件设计匹配，且整个过程较为复杂。这种利用 AI 代理反向窃取数据的方式，在以往安全案例中较少出现。
Radware 还指出，常规安全防护工具几乎无法发现这类攻击，因为数据传输的起点是 OpenAI 的服务器，而非用户的电脑或浏览器。这意味着，即使本地防护正常运行，也难以阻止数据外泄，增加了防御难度。
OpenAI 在 8 月获悉漏洞后迅速修补，并于 9 月公开确认此事。公司发言人强调，模型安全是首要任务，欢迎外部研究帮助改进技术。
RSS订阅
