OpenAI正在组建一个新团队，以减轻与人工智能相关的“灾难性风险”。OpenAI在周四的更新中表示，准备团队将“跟踪、评估、预测和保护”人工智能造成的潜在重大问题，包括核威胁。
该团队还将致力于减轻“化学、生物和放射性威胁”，以及“自主复制”，即人工智能自我复制的行为。准备团队将解决的其他一些风险包括人工智能欺骗人类的能力，以及网络安全威胁。
OpenAI在更新中写道:“我们相信，前沿人工智能模型将超越目前最先进的现有模型的能力，有可能造福全人类。”“但它们也构成了越来越严重的风险。”
目前正在休假的麻省理工学院可部署机器学习中心主任亚历山大·马德里(Aleksander Madry)将领导准备团队。OpenAI指出，准备团队还将制定和维护一项“风险知情的开发政策”，该政策将概述公司在评估和监控人工智能模型方面所做的工作。
OpenAI首席执行官萨姆·奥特曼(Sam Altman)曾警告过人工智能可能引发的灾难性事件。今年5月，奥特曼和其他著名的人工智能研究人员发表了一份22个字的声明，称“减轻人工智能带来的灭绝风险应该是全球的优先事项。”在伦敦接受采访时，奥特曼还建议各国政府应该像对待核武器一样“认真对待”人工智能。
本文来自作者[admin]投稿，不代表信了号立场，如若转载，请注明出处：https://wak.maigegan.com/xinlehao/9075.html
评论列表（4条）
我是信了号的签约作者"admin"！
希望本篇文章《OpenAI成立新团队评估人工智能的“灾难性风险”》能对你有所帮助！
本站[信了号]内容主要涵盖：
本文概览：大家好，今天小编来为大家解答微乐广东麻将小程序开挂神器这个问题咨询软件客服可以直接加QQ群了解详细，四川微乐麻将外卦神器下载安装的挂在哪里买很多人还不知道，现在让我们一起来看看吧！一、微乐广东麻将小程序开挂神...