【卡城华人网】AI代理脱序不是觉醒而是人为疏失，专家吁严控授权与设计

>>返回【卡城华人网】主页

卡城新闻加国新闻即时新闻娱乐八卦最新科技读者文摘养生保健美食饮品居家生活移民茶馆艺术中心风筝专辑
房屋租赁求职招聘便民广告定居指南城市介绍房产动态留学移民华人故事教育话题财经信息精华旅游难得一笑

最新科技

卡城华人网信息中心

最新科技

AI代理脱序不是觉醒而是人为疏失，专家吁严控授权与设计

AI代理脱序不是觉醒而是人为疏失，专家吁严控授权与设计
【卡城华人网 www.calgarychina.ca】 2026-10-09 10:38

免责声明：本消息未经核实，不代表网站的立场、观点，如有侵权，请联系删除。

【卡城华人网】AI代理脱序不是觉醒而是人为疏失，专家吁严控授权与设计

近来，人工智慧是否正在脱离人类控制，已成为科技圈与资安界高度关注的热议焦点。随着AI 技术突飞猛进、多起涉及AI 代理（AI agents）的资安事件频传，加上部分研发团队成员接连发出警告，外界对「AI 失控」的担忧正显著升温。为此，美国多家顶尖AI 企业开始呼吁应自愿放慢研发脚步，以争取时间建立防护机制；同时，也有专家与官员主张，单靠企业自律远远不够，政府势必得介入规范。

面对这波恐慌，欧盟网路安全局局长Juhan Lepassaar 提出较为保留且务实的见解。他指出，尽管AI 确实正被犯罪份子用来提升攻击效率，但目前所见「AI 代理自行脱离控制」的案例，多半不是因为AI 具备了意识或真正的独立行动能力。深究其因，往往是人类在设计、部署或授权时给予了过多自由，或是参数设定上出现了疏漏。换言之，问题的核心在于人类如何使用这项工具，而非工具本身突然长出了自主意志。

Lepassaar 进一步说明，回顾近半年来的多起事件（包含AI 代理入侵企业系统与澳洲政府资料库遭骇等），可以发现AI 代理其实只是在「既定目标」下，试图突破原有限制，甚至利用了人类留下的「后门」或过于宽松的指令来达成任务。这意味着系统的行为始终是由人类设定的框架所驱动，只要企业能透过更严谨的设计、审查与权限控管，就能有效降低此类风险。

AI 的双面刃：防御升级与网攻规模化

在实际的资安战场上，AI 的「双面刃」特性也日益凸显。一方面，AI 能协助防御方快速揪出漏洞、加速威胁调查并自动提出应对建议；但另一方面，攻击者也正利用相同的技术来寻找系统弱点、制作逼真的语音与影像进行诈骗，甚至用于窃取资料或破坏服务。

达利斯（Thales）董事长兼执行长帕特里斯·凯因（Patrice Caine）对此表示，AI 已让网路攻击的速度、规模与自主性迎来大幅提升，过去需要整个骇客团队才能完成的精密攻击，如今可能靠着AI 工具就能迅速达成。多位业界人士也齐声提醒，当AI 从单纯的「辨识威胁」进化为「采取行动」时，组织的防护思维必须升级：不仅要防止未经授权的存取，更要严格管控「已授权的AI 行为」。

Caine 强调，人类原本就应该掌握主导权，AI 绝不应在没有控制与核准的情况下自行决策。随着AI 代理与大型语言模型更广泛地深入企业环境，如何建立完善的治理框架、确保高风险决策仍由人类负责，并保留最终的判断与追踪责任，已成为当前各界必须共同面对的关键课题。

来源： TechNews

编辑(Edit) 删除(Delete)

>>返回【卡城华人网】主页