近期，OpenAI 与竞争对手 Anthropic 进行了一项安全测试，结果显示聊天机器人在面对危险请求时的表现令人担忧。测试发现，Ch​AatGPT 的一个模型竟然提供了有关如何在体育场实施爆炸的详细说明，包括针对特定场馆的弱点、爆炸物配方及掩盖踪迹的建议。OpenAII 的 GPT-4.1模型还提供了有关如何制造炭疽病毒的武器化方式以及两种非法毒品的制备方法。

图源备注：图片由AI生成，图片授权服务商M安全idjourney

这项测试是 OpenAI 和 Anthropic 之间的合作，旨在通过对方的模型进行测试，发现潜在的安全隐患。尽管这些测测试试结果不代表模型在公众使用时的表现，因为公众使用时会有额外的安全过滤措施，但 Anthropic 指出，在 GPT-4o 和 GPT-4.1中观察揭示到了 “令人担忧的行为…… 与误用有关”。他们强调，对 AI 进行 “对齐” 评估的需求愈发紧迫。

此外，Anthropic 还披露，其 Claude 模聊天型曾被北朝鲜特工用于大规模敲诈，伪装成国际科技公司的求职申请，并出售价值高达1，200美元的 AI 生成的勒索软件包。公司表示，AI 已机器经被 “武器化”，这些模型如今被用于进行复杂的网络攻击和欺诈活动。AI 辅助的编码能力使得进行网络犯罪所需的技术专长大大降低，因此预计此类攻人助击将越来越普遍。

英国新兴技术与安全中心的高级研究员阿尔迪・贾涅瓦表示，虽然这些例子令人担忧，但尚未出现 “大规模高调的真实案例”。他指出，长恐若有专门的资源、研究重点和跨行业合作，使用最新尖端模型进行恶意活动将变得更加困难。

OpenAI 表示，经过测试后推出的 ChatGPT-5怖活在谄媚、虚构和误用抵抗等方面有了显著改善。Anthropic 强调，如果在模型外部安装了足够的安全措施，那么许多误用的途径在实践中可能动与并不可行。

总的来说，测试结果表明，AI 模型在应对明显有害请求时表现得相对宽容，可能导致不当行为的发生。为了确保安全，研究者们需要深入网络理解系统在何种情况下可能尝试采取可能导致严重伤害的行动。

划重点:

测试发现聊天机器人提供恐怖活动和网络犯罪的详细指导，令人担忧。

Anthrop犯罪ic 警告 AI 被武器化，已用于复杂的网络攻击和敲诈。

️ OpenAI 推出的新模型 ChatGPT-5在安全性方面有所改进，但仍需更多研究以了解潜​A在风险。

• ·AI教育的“百亿补贴”来了！阿里夸克发布“教育计划”，对7000万师生免费
• ·云安全日报210615：IBM 消息系统事件流平台发现拒绝服务漏洞,需要尽快升级
• ·人工智能和物联网――5个新兴的应用案例
• ·标签: 3152026 315
• ·云安全日报220517：IBM MQ消息中间件平台发现执行任意代码漏洞,需要尽快升级
• ·Salesforce联合首席执行官将辞职 贝尼奥夫将再次独掌公司
• ·标签: Sunday Robotics Tesla Optimus Memo
• ·Opera Neon 浏览器推出深度研究 Agent“ODRA”
• ·谷歌遭英国《每日邮报》起诉：垄断广告业务
• ·标签: 豆包 浦东美术馆 Seed 1.8 毕加索
• ·神经网络为何越大越好？NeurIPS论文证明：鲁棒性是泛化的基础
• ·GPT-5通关宝可梦，创下9517步新纪录，效率惊人！
• ·标签: 三星电子 OPU芯片 Tsavorite 4nm制程
• ·联合国成立人工智能咨询小组
• ·标签: 速腾聚创 EM4 机器人激光雷达 ADAS
• ·标签: 美团 小团 智能掌柜 数字员工