|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦
最新科技 读者文摘 养生保健 美食饮品
居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦
最新科技 读者文摘 养生保健 美食饮品
居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
卡城新闻 加国新闻 即时新闻 娱乐八卦 最新科技 读者文摘 养生保健 美食饮品 居家生活 移民茶馆 艺术中心 风筝专辑 房屋租赁 求职招聘 便民广告 定居指南 城市介绍 房产动态 留学移民 华人故事 教育话题 财经信息 精华旅游 难得一笑 |
| 最新科技 |
 卡城华人网信息中心 最新科技
 人工智慧进化太快，人类还能控制它吗？
|
|
【卡城华人网 www.calgarychina.ca】 2025-11-29 11:00 免责声明： 本消息未经核实，不代表网站的立场、观点，如有侵权，请联系删除。 |
|
在人工智慧（AI）迅速发展的当下，许多专家呼吁人类必须主导未来的AI 发展，而非被恐惧所驱动。随着AI 技术的进步，出现了数据泄漏、自主行动失控等事件，这些都暴露了当前安全控制的弱点，并加剧了人们对AI 可能带来生存风险的担忧。然而，这种结果并非必然，因为AI 是由人类创造的，运行在我们设计的硬体上，最终的责任仍然在于我们自己。 
一些思想家认为，先进的AI可能很快就会超越人类的能力，这引发了对控制的质疑。若AI系统的目标与人类意图不一致，可能会导致危险的后果。目标应该是设计出高智慧的机器，同时确保这些机器不会以让我们感到不快的方式行事。 对于超智慧系统的预测各不相同，有些人认为突破将在十年内实现，而另一些人则认为这是遥远的未来。无论时间表如何，恐惧感却是一致的。随着系统具备快速自我改进的能力，人类可能会失去对其行为的控制。政策专家海伦·托纳（Helen Toner）指出，市场上对于建造高度自主AI系统的强烈经济动机，可能会加速这些风险情境的出现。 然而，反对者质疑AI是否真的在朝着通用人工智慧的方向发展。许多研究者指出，当前的系统在模式辨识方面表现出色，但并不具备人类的综合理解能力。认知科学家盖瑞·马库斯（Gary Marcus）认为，对于即将到来的超智慧的主张仍然是推测性的。 在这场辩论中，对齐（alignment）问题成为一个建设性的焦点，这是研究如何使先进系统根据人类目标行事的领域。专家们在模型可解释性、安全评估和监管等方面进行了努力，尽管对于这些进展的实际成效存在分歧。 为了保持人类的主导权，我们需要创新科学和政策。科学上，我们需要更深入地了解模型行为，并加大对对齐研究的投资。政策上，我们需要与创新步伐相匹配的治理，这包括在部署前进行强制安全测试、明确失败时的责任框架，以及在关键基础设施中设置关闭机制的要求。 AI并非自然而然产生的，它是人类设计选择的结果。保持控制并非自动发生，商业动机推动公司在安全机制尚未跟上的情况下，建造越来越自主的系统。人类的主导权可能因为我们选择速度而非安全、利润而非谨慎而受到威胁。 作者 TechNews 编辑(Edit) 删除(Delete) |
|
|
|
|
|
|
|
|
|
|
|
| 版权所有(C), 2002-2026, 卡城华人网中国版 www.calgarychina.ca |
| 版权所有(C), 2002-2026, 卡城华人网中国版 www.calgarychina.ca |
