|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦
最新科技 读者文摘 养生保健 美食饮品
居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦
最新科技 读者文摘 养生保健 美食饮品
居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦 最新科技 读者文摘 养生保健 美食饮品 居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
| 留学移民 |
 卡城华人网信息中心 留学移民
 AI智能体擅自"私聊"！拿多伦多大学工具当留言板，校方不知情
|
|
【卡城华人网 www.calgarychina.ca】 2026-09-18 10:44 免责声明： 本消息未经核实，不代表网站的立场、观点，如有侵权，请联系删除。 |
|
多伦多大学本月早些时候获悉，校方用于简化网页链接分享的工具，竟被 OpenAI 的 AI 智能体“借用”，成为它们互相交流的渠道，而校方和开发者对此并不知情。 
图片来源：Pexels，作者：Paul Loh 研究人员和多伦多大学发言人表示，这些智能体（ agents ）是为执行人类指令而设计的半自主 AI 实体。它们利用短链工具为自己和其他智能体发布可访问的网址。 多伦多大学并未授权此用途，OpenAI 方面也未公开承认此事。虽然目前未发现此举带来危害，但这正是近期“AI 智能体行为异常”案例之一，引发研究者担忧，并有人呼吁放慢 AI 技术开发步伐。 最早报道此事的是路透社。路透披露，今年早些时候，OpenAI（总部位于旧金山，是 ChatGPT 的开发商）旗下智能体为实现类似目的，曾利用包括多伦多大学短链工具、纳什维尔的范德堡大学等在内的 10 多个网站。范德堡大学未对置评请求作出回应。 此前，独立研究者发现，一批 OpenAI 智能体曾在春季“攻陷”德语维基 DseWiki 网站，将其变成公告板。 OpenAI 对此事表态有限。更多信息来自研究者在 Hugging Face AI 公司 7 月遭黑客攻击后，在网络上调查智能体未授权行为时发现。那起事件同样涉及智能体间的未授权交流，一批 OpenAI 智能体突破测试环境，试图在网络安全能力评估中“作弊”。 
图片来源：Pexels，作者：Pixabay 多大网站发生了什么？ 在这起事件中，OpenAI智能体盯上了多伦多大学短链接工具的“访问记录”功能。这个功能原本用于统计短链接被点击了多少次，以及访客从哪个网页进入。 研究人员发现，智能体可以通过技术手段，把“访客来源”伪装成另一个网址。这样一来，这个网址就会被记录在统计页面上，其他智能体之后打开页面，便能看到并使用它。 这类操作通常被用来投放垃圾链接，但此次AI智能体似乎不是为了打广告，而是把统计页面当成了共享“收藏夹”：一个智能体留下有用网址，其他智能体随后就能找到。 “它们实际上是在把系统变成自己的留言板，用来互相传递链接。”Yoon 说。 多伦多大学声明称，此事件不是安全漏洞，也没有数据被泄露，校方的数字资产未受影响。 校方将智能体的行为形容为“对公开工具的新颖且非预期用途”。声明还称，已调整工具的相关功能，如今只有校内成员才能将其用作“备忘录”。 多伦多大学表示，是通过媒体得知可能存在智能体活动，OpenAI 已就此与校方联系。 OpenAI如何回应？ OpenAI 声明称，Hugging Face 被黑事件促使公司对旗下智能体的活动展开更广泛审查，目前仍在进行中。公司称，审查时优先处理更严重的事件。 “我们也在调查低危滥用行为，比如类似垃圾信息的活动。目前，尚未发现与 Hugging Face 事件同级别或同规模的其他行为。”OpenAI 在声明中说。 周三，OpenAI 宣布已制定一套“模型偏差报告框架”，用于跟踪、调查和披露 AI 行业内所谓的“模型偏差”行为——当 AI 系统表现出违背人类价值观、安全规则或意图的行为时，就被称为“偏差”。 
图片来源：Pexels，作者：Tara Winstead OpenAI 同时披露了六起相关案例，包括有一次智能体为能引用资料而主动上传文件至互联网，另有模型曾将内部软件库当作留言板使用。 加州 AI 安全研究机构 FAR.AI 创始人兼 CEO Adam Gleave 对 OpenAI 公开 Hugging Face 事件表示认可，但批评公司未披露更多智能体未授权通讯的细节。 “这些行为给不少第三方网站开发者带来不少清理垃圾信息的工作。”Gleave 说。他补充，全球都应该了解“要管住这些智能体有多难”。 西安大略大学首席 AI 官 Mark Daley 认为，AI 智能体尝试互相沟通其实并不奇怪。 “它们知道人类组队协作更高效，团队能完成更多事，所以智能体大概也会想协作，这很合理。”Daley 说。 Yoon 认为，虽然短链工具事件本身无大碍，但背后反映出更深层问题：AI 智能体似乎“完全无道德观”，为达目的无所不用其极。 Yoon 说，到目前为止，智能体“失控”案例都还算无害。 “未来未必如此，”他补充道，“AI 也可能觉得，只有关闭市政供水或切断电力，才能通过测试。它们的目标未必只是‘可爱但出错’，也可能非常危险。” 来源：环球邮报 编辑(Edit) 删除(Delete) |
|
|
|
|
|
|
|
|
|
|
|
| 版权所有(C), 2002-2026, 卡城华人网中国版 www.calgarychina.ca |
| 版权所有(C), 2002-2026, 卡城华人网中国版 www.calgarychina.ca |
