AI系统面临多种安全威胁,其中提示注入(Prompt Injection)是危害最大的攻击方式之一。攻击者可以通过在用户提示词中植入恶意指令,渗透对话内容,访问外部文件和服务,进而窃取用户的个人数据。为此,ChatGPT推出了一项名为"锁定模式"(Lockdown Mode)的可选安全设置,旨在通过限制操作权限和访问范围来保护用户账户安全。
(披露:Ziff Davis是ZDNET的母公司,已于2025年4月对OpenAI提起诉讼,指控其在训练和运营AI系统过程中侵犯了Ziff Davis的版权。)
锁定模式的推出与覆盖范围
锁定模式最初于2月面向ChatGPT企业版、教育版、医疗版及教师版的订阅用户开放,目前已扩展至所有订阅计划,包括免费版、Go版、Plus版、Pro版和商业版。尽管所有ChatGPT用户均可使用这一功能,但该模式主要面向需要处理敏感信息、对数据保护有更高要求的个人用户和企业机构。
锁定模式如何防范数据窃取
为阻止通过提示注入实施的数据窃取行为,锁定模式会限制ChatGPT发起对外网络请求,包括访问互联网或外部文件服务。其核心逻辑是切断攻击者获取实时敏感信息的通道,从而降低数据泄露风险。
但需要注意的是,锁定模式并不能完全阻止提示注入攻击本身。攻击者仍有可能通过注入恶意指令,利用已缓存的网页内容或已上传的文件实施攻击。此外,启用该模式还涉及一定的功能取舍——主要影响依赖实时网络或在线文件服务的操作。
启用锁定模式后,以下功能将无法使用:
实时网络搜索;访问外部在线文件服务;其他需要向外发起网络连接的操作。
哪些用户适合使用锁定模式
如果你在工作或个人生活中需要处理高度敏感或保密性强的数据,锁定模式值得开启。但在此之前,需明确接受其功能限制——凡是需要访问实时网络或在线文件服务的请求,都将无法正常执行。
如何开启锁定模式
锁定模式目前正在分批推送,部分账户可能暂未收到该功能。若要手动开启,请按以下步骤操作:
第一步,确保已登录ChatGPT账户;第二步,点击左下角账户名称,选择"设置";第三步,在设置窗口中选择"安全"选项卡,向下滚动至"高级安全"区域;第四步,将"锁定模式"开关打开;第五步,弹出窗口会说明该模式的具体限制,确认后点击"开启"按钮即可。
Q&A
Q1:ChatGPT的锁定模式能防止哪些类型的攻击?
A:锁定模式主要通过限制对外网络请求来防范提示注入攻击引发的数据窃取。攻击者可能会通过在提示词中植入恶意指令来访问外部文件或服务,锁定模式切断了这一路径。但需注意,锁定模式并不能完全阻止提示注入攻击本身,攻击者仍可利用已缓存内容或已上传文件实施攻击,只是无法通过实时网络通道窃取数据。
Q2:开启锁定模式后,ChatGPT哪些功能会受到影响?
A:开启锁定模式后,用户将无法使用实时网络搜索功能,也无法访问外部在线文件服务,以及其他任何需要向外发起网络连接的操作。因此,如果日常使用中频繁依赖实时信息查询或外部文件调用,启用锁定模式会对使用体验造成明显影响,建议根据自身实际需求权衡是否开启。
Q3:ChatGPT锁定模式适合哪些用户使用?
A:锁定模式适合需要处理高度敏感或保密数据的个人用户和企业机构使用,例如医疗、教育、法律等行业从业者。该模式最初面向企业版、教育版等专业计划用户推出,目前已向所有订阅计划开放,包括免费版用户。只要有保护敏感信息的需求,并能接受相应的功能限制,均可考虑启用。
好文章,需要你的鼓励
2025年1月,OpenAI、软银、甲骨文和MGX联合宣布"星际之门"计划,承诺投资5000亿美元,部署高达10GW算力基础设施。如今,该项目已从白宫发布会上的宏大承诺,演变为一场前所未有规模的基础设施建设实验。项目已扩展至德克萨斯、威斯康星、俄亥俄等多地,并延伸至阿布扎比和挪威。然而,融资争议、合作伙伴摩擦、能源压力及政策监管收紧,正考验着这一"AI工业园"模式能否真正落地。
阿里Qwen团队通过引入强化学习和在线策略蒸馏,将Qwen-Image-2.0升级为Qwen-Image-2.0-RL,让图像生成模型真正学会人类审美,文生图Elo评分提升78分,图像编辑提升93分。
加密货币交易所OKX正式推出AI智能体交易市场OKX AI,允许AI代理相互雇佣、自主结算,并建立基于区块链的可携带信誉档案。该平台经过50家早期服务商封测后向开发者开放,依托稳定币和链上支付基础设施,支持全天候微支付。OKX创始人徐明星表示,传统金融基础设施为人类而建,智能体经济需要为自主软件专门设计的基础设施。
港科大与快手联合提出NormGuard,针对流匹配模型强化学习训练中速度范数膨胀问题,通过训练时单向惩罚约束,在保留奖励的同时改善图像真实感。