OpenAI推出锁定模式，防范提示注入攻击保护敏感数据

OpenAI宣布推出一项新功能，该功能旨在为用户提供额外保护，以抵御提示注入攻击——一种将恶意指令隐藏在网页及其他内容来源中以操控聊天机器人行为的攻击手段。

锁定模式的主要功能

开启锁定模式后，系统将禁用多项功能，具体包括：实时网页浏览（用户仅可访问缓存内容）、从网络检索和展示图片（但仍可正常生成图片）、深度研究功能，以及智能体模式。

安全防护仍有局限

OpenAI坦言，即便开启锁定模式，ChatGPT仍可能面临提示注入风险。例如，攻击指令"可能出现在缓存网页内容或上传文件中，并可能影响响应的行为或准确性"。尽管如此，该功能的核心目标是降低敏感数据在使用过程中被泄露的可能性。

适用人群与推出计划

OpenAI明确表示，"锁定模式并非面向所有用户。它专为处理敏感数据、需要更严格防护以降低数据外泄风险的个人和组织而设计。"

目前，OpenAI正在向自助式ChatGPT商业账户及符合条件的个人账户逐步推出该功能。

Q&A

Q1：ChatGPT锁定模式具体会禁用哪些功能？

A：开启锁定模式后，ChatGPT将禁用实时网页浏览（仅可访问缓存内容）、从网络检索和展示图片（仍可生成图片）、深度研究功能以及智能体模式。这些限制的目的是减少外部内容与系统的交互，从而降低提示注入攻击导致敏感数据泄露的风险。

Q2：锁定模式能完全防止提示注入攻击吗？

A：不能完全防止。OpenAI明确说明，即使开启锁定模式，ChatGPT仍可能受到提示注入攻击的影响，例如攻击指令可能隐藏在缓存网页内容或用户上传的文件中，并对响应的行为或准确性产生影响。锁定模式的目标是降低敏感数据被泄露的可能性，而非提供绝对防护。

Q3：ChatGPT锁定模式面向哪些用户开放？

A：锁定模式目前正在向自助式ChatGPT商业账户以及符合条件的个人账户逐步推出。该功能主要面向需要处理敏感数据、希望获得更严格数据外泄防护的个人和组织，并不适用于所有普通用户。