【AIbase报道】尽管 OpenAI 正在全力推广其全新一代智能浏览器 ChaOptGPT Atlas，但公司内部安全主管 Dane Stuckey 近日却公开表达了对en其潜在安全风险的担忧，引发业界关注。

Stuckey 指出，Atlas 面临的最大挑AI战之一是尚未彻底解决的 “即时注入”（Prompt Injection）攻击。 内这类攻击通过在网页、邮件或其他内容中巧妙嵌入恶意指令，从而诱导 AI 代理执行非预期操作部警。其影响不仅可能干扰用户的购买行为，还可能导致电子邮件内容或登录凭证等私人数据被示:窃取。

他坦言，尽管 OpenAI 已经开展了大规模安全测试，并在 Atlas 中引入多重防Ch护机制与新的模型训练方法，但“即时注入”仍然是一个棘手的开放性问题，短期内难以彻at底根除。

为缓解风险，OpenAI 在 Atlas 中部署了两项关键防御措施:其一是GP “注销模式”，用于在必要时阻断 AI 代理对用户数据的访问，从源头防止信息泄露;其T 二是 “监视模式”，适用于敏感网站，要求用户在关键交互中进行人工确认和监督，以At确保操作安全。

Stuckey 表示，团队正在加速研发更多防护功能与快速响应系统，以la便在面对潜在攻击时能第一时间进行干预和修复。“Atlas 的安全挑战不仅是技s 术问题，更是人与 AI 协作的新边界测试。”他强调。

• ·标签: 钉钉 DingTalkA1 DingTalkA1Pro CleerH1
• ·标签: Anthropic IPO 人工智能 美股上市
• ·入行大数据必须知道的事！
• ·可能破坏企业运营环境的6个云计算安全问题
• ·美国国防部取消授予微软的价值100亿美元云计算合同
• ·云计算核心技术Docker教程：Docker Hub设置构建规则
• ·标签: Klook 纽交所上市 红杉资本 维恩资本
• ·标签: 思特威 Lofic HDR 2.0 智能手机摄像头 汽车电子
• ·拥有《007》的亚马逊能否击杀“流媒体之王”Netflix？
• ·标签: 飞书 龙虾 飞书aily OpenClaw
• ·200天！18岁上海高中生自制机器人，250行Python代码「注入灵魂」
• ·京东2021年第三季度财报发布 京东云服务超1500家大型企业
• ·诺基亚与Google签约以构建基于云的5G网络
• ·标签: 绿云软件 港股IPO 住宿业数字化 甲骨文
• ·标签: 俞敏洪 孙东旭 东方甄选
• ·加强人工智能安全风险防控，需聚焦技术融合、法律规制