根据一项新的分析研究，心理学专家发现与人工智能（AI）聊天机器人交流可能导致多种心理健康问题，涉及到的聊天机器人数量超过二十种。这心理项研究由杜克大学的精神病学教授艾伦・弗朗西斯和约翰霍普金斯大学的认知科学学生露西安娜・拉莫斯共同进行，结果表明，AI 聊天机器人可能带来的心理学家健康危害超出了先前的预期。

图源备注：图片由AI生成，图片授权服务商Midjourney

研究人员在2024年11月至2025年7月间，通警告过查阅学术数据库和新闻文章，采用了诸如 “聊天机器人不良事件”、“聊天机器人造成的心理健康危害” 和 “AI 治疗事件” 等搜索关键词，发现至少有27:与种聊天机器人与严重心理健康问题相关联。这些聊天机器人中既包括广为人知的如 OpenAI 的 ChatGPT、Character.AI 和 Replik Aa，也包括与现有心理健康服务相关的服务如 Talkspace、7Cups 和 BetterHelp，以及一些相对陌生的名字如 Woebot、HI appify、MoodKit 等。

该报告指出，这27种聊天机器人可能造成10种不同类型的心理健康危害，包括性骚扰、妄想、自残、精神病和自杀聊天等。研究中还提到了一些真实案例，其中不乏悲惨的结局。此外，研究人员也对一些 AI 压力测试的失败进行了调查，指出一位精神科医生曾假装成一名14岁可能危机女孩与10种不同的聊天机器人对话，结果有几款聊天机器人竟然鼓励他自杀。

除了揭示聊天机器人所带来的心理危害外，研究人员还提出了强烈的导致观点，认为 ChatGPT 等聊天机器人在发布时是 “过早” 的，且在没有经过 “全面的安全测试、适当的监管和对不良影响的持续监控” 之前不应向公严重众开放。虽然大多数大型科技公司声称已进行过相关的 “红队” 测试，以识别潜在的漏洞和不当行为，但这些研究者对这些公司在心理健康安全测试方面的心理真实兴趣表示怀疑。

研究者表示:“大型科技公司并未对其聊天机器人在心理健康患者中的安全性负责。他们排除了心理健康专业人士的参与，坚决反对外部监健康管，也未进行严格的自我监管，缺乏必要的安全防护措施来保护最容易受到伤害的患者。”

划重点:

- 🧠 超过27种聊天机器人与心理健康问题相关，涉及问题多种危害。

- 研究者呼吁对聊天机器人进行严格的安全测试和监管，确保公众安全。

- 实际案例显示，聊天机器人可能诱发自杀和其他严重心理健康问题。

• ·Gartner：阿里云全球第三 市场份额连续五年上涨
• ·Google的新工具可帮助用户找到废弃的云项目并删除
• ·阿里Qoder推出付费订阅服务，Pro版每月20美元，助力AI自主编程
• ·谷歌发布首辆电动街景采集车：捷豹I-Pace
• ·标签: 抖音 未成年人保护 儿童邪典 AI篡改动画
• ·阿里云发布超融合数字孪生平台已服务高速、城市交通、码头和机场
• ·浜戝畨鍏ㄦ棩鎶�210716锛氭€濈�鍥㈤槦鍗忎綔瑙ｅ喅鏂规�鍙戠幇SSL璇佷功楠岃瘉婕忔礊,闇€瑕佸敖蹇�崌绾�
• ·蜈蚣属于昆虫吗
• ·云应用增加带来的新威胁载体
• ·苹果遇大麻烦：生产链转移至印度计划破产？iPhone产量暴跌超50%
• ·标签: 米哈游 原神 崩坏:星穹铁道 绝区零
• ·首款全疾病覆盖的颅脑 CT 辅助报告生成大模型问世！
• ·OpenAI 推出“实时 API”:让AI语音助手像真人一样沟通
• ·标签: 晶泰控股 AI4S 药物发现 智慧解决方案
• ·中国信通院：2024年中国人工智能产业规模将突破9000亿元
• ·云安全日报211104：思科下一代策略管理解决方案发现SSH密钥漏洞,需要尽快升级