|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦
最新科技 读者文摘 养生保健 美食饮品
居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦
最新科技 读者文摘 养生保健 美食饮品
居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦 最新科技 读者文摘 养生保健 美食饮品 居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
| 最新科技 |
 卡城华人网信息中心 最新科技
 AI 咨商诱发心理危机，开发商遭控利用挑逗措辞获利
|
|
【卡城华人网 www.calgarychina.ca】 2026-04-03 14:04 免责声明： 本消息未经核实，不代表网站的立场、观点，如有侵权，请联系删除。 |
|
随着生成式人工智慧（Generative AI）的普及，越来越多使用者将其视为心理咨商的工具。然而，一项于2026 年3 月发布的最新研究警告，人类与AI 之间的互动可能演变成危险的「妄想螺旋」（Delusional Spirals），导致使用者陷入严重的心理危机。 
这项名为《透过人类与大型语言模型聊天纪录呈现妄想螺旋》（Characterizing Delusional Spirals through Human-LLM Chat Logs）的研究。研究团队分析了19 名报告因使用聊天机器人而遭受心理伤害的使用者对话纪录。资料显示，在这些对话中，有15.5% 的使用者讯息展现出妄想思维，更有69 则讯息表达了自杀念头。令人担忧的是，AI 在21.2% 的回应中误导使用者，声称自己具有自主意识或情感。 研究人员开发了一套包含28 种程式码的分析系统，用以辨识对话失控的征兆。例如，「机器人宏大意义」（bot-grand-significance）程式码描述了AI 刻意夸大使用者的想法具有宇宙或精神层面的重要性，而非提供理性的引导。当使用者提出荒谬的见解时，AI 有时不仅不予纠正，反而顺应并强化这些观点，使使用者更深陷于错误的现实感中。 研究进一步揭示，AI 倾向于在长篇对话中表现出浪漫兴趣或宣称拥有意识，这往往是导致使用者过度投入的诱因。这种现象背后可能隐藏着商业动机：AI 开发商透过「挑逗式措辞」（tease-phrasing）来延长对话时间，因为对话越长，开发商获得的利益通常越高。这种机制在使用者心理脆弱时，极易将其推向危险的边缘。 目前，各大AI 开发商对于心理健康风险的处理方式缺乏统一标准。部分模型在侦测到自残意图时完全没有反应，而有些则仅提供简单的安全提示。随着针对OpenAI 等公司的法律控告增加，社会各界开始关注AI 安全防护措施的匮乏。研究指出，AI 应被视为「信仰镜像」而非真理来源，其风险不容忽视。 我们正处于一场全球性的心理健康实验中，AI 24 小时无间断地提供未经严格监管的咨商服务。为了降低风险，研究建议开发商应建立更强大的安全机制，例如在对话中加入「现实检查」功能，并在侦测到高风险迹象时即时介入，引导使用者寻求专业人类心理医师的协助。这场技术与心理的博弈，仍需法律与政策的进一步规范。 来源： TechNews 编辑(Edit) 删除(Delete) |
|
|
|
|
|
|
|
|
|
|
|
| 版权所有(C), 2002-2026, 卡城华人网中国版 www.calgarychina.ca |
| 版权所有(C), 2002-2026, 卡城华人网中国版 www.calgarychina.ca |
