当前位置:首页 > 科研论文

看谷歌和OpenAI联合发布五条AI定律如何打脸霍金
本文摘要:最近,谷歌和OpenAI的博客宣布谷歌、OpenAI、伯克利和斯坦福的学者共同开展的研究,其目的是为了获得AI有效的道德制约,无意识或无意识地危害人类。

最近,谷歌和OpenAI的博客宣布谷歌、OpenAI、伯克利和斯坦福的学者共同开展的研究,其目的是为了获得AI有效的道德制约,无意识或无意识地危害人类。阿西莫夫的法则是明天黄花对AI的担心和允许的想法,从AI的概念还没有出现的时候开始,在那个人们对计算机无知的时代,人们对那个强大的金属身体和超高智商的不存在本能的不安。多年来,无数科学家和作家警告人工智能可能吞噬人类。

华体会app下载

霍金也对打破人类的AI有可能招致人类的霸权。人们也曾索过允许AI随意发展的可能性。1950年着名科幻作家阿西莫夫的《我,机器人》出版发行,书中阿西莫夫明确提出了世界着名的机器人三法则(当时还没有人工智能这个概念,这个概念是1955年第一次约翰·麦卡锡明确提出),阿西莫夫的想法是,只要将这三个法则载入机器人的代码底层,机器人无论如何都不能违反,就能确保人类不受机器人损害:第一法则:机器人不得损害人类,也不得损害人类。

华体会app下载

第二法则:除非机器人与第一法则发生冲突,否则机器人必须遵守第一法则和第二法则。乍一看,这三条法则明显能有效避免机器人对人的各种损害。但是,这个法则没有两个问题。

华体会app下载

一个是过于模糊,机器人通过各种理解可能会超过自己的允许和损害人类的问题。二是操作性差,到现在为止,我们还不能生产能够确实解读这三个法则意义的AI,对于如何将其载入AI程序的基础是没有头绪的。

华体会app下载

如果AI在寻找构筑机器人三定律的方法之前没有吞噬人类的想法和能力呢?谷歌和OpenAI率先发表了5条AI法则谷歌,前几天发表了5条行为规范的论文,目的是为了避免AI无意识或损害人类。我们不可避免地被称为AI五法则。在这里,我们选择了一些翻译:虽然人工智能可能面临的安全风险已经引起了公众的注意,但目前大多数相关的辩论已经过于理想化和理论化。

华体会app下载

我们相信与机械学习领域相关的研究应该尽快落地,所以我们开始研究实际上可以用安全可靠的手段制作AI系统的方法。我们指出,一般来说,对AI来说最重要的5个问题是大胆的思考和多年的研究方向。

华体会app下载

华体会

华体会app下载

目前意义较小,但未来系统不能充分发挥最重要的作用。防止负面影响:如何防止AI达到目标时对环境产生负面影响?例如,为了防止清扫地板的机器人为了更慢地清扫地板而夺取道路的权利(不是绕过去)。防止非法理解奖励条件:如何防止人工智能通过伪造测量值等手段在奖励函数上玩图案?例如,我们不希望这个清扫机器人只是找东西盖上脏东西,指出自己已经洗干净了。

华体会app下载

可扩展的监督:如何有效地确保AI系统对系统中过于频繁评价的物体作出必要的反应?例如,如果机器人必须从人那里得到训练结果的系统,就必须有效地利用这个系统的能力(不能像普通的训练那样偶尔比较训练结果)。因为有时问人的问题很麻烦。环境探索的安全性:如何有效地确保AI系统在评价环境时产生过度负面影响?例如,清扫机器人可能必须开展制定拖把战略的实验,作为今后工作的依据。

华体会app下载

但是,无论如何实验,似乎都不应该试着把湿拖把夹在插座上。分配变化的鲁棒性:如何确保AI系统与其训练环境几乎不同时的理解和不道德的稳定性?例如,启发算法可能会使机器在工厂学到的不道德在办公室不太安全。其重要性不言而喻,很多人担心AI对人类的威胁。

华体会app下载

还包括ElonMusk和霍金等。要详细区分,这种担心不是对AI所享受的力量的担心,而是对其力量不能用于适当的地方的担心。AlphaGo的投资者Tallinn在采访中必须对AI研究的目标作出新的定义。不仅仅是完全的智能研究开发,研究开发访问人类价值观的超智慧。

华体会app下载

华体会app下载

华体会app下载

也是这种担心的表现。但是,现在大众广泛注意到这种可能性,但是直接研究的数量很少。但是,这不包括谷歌。

华体会app下载

谷歌对AI安全性的高度评价已经很久了。以前谷歌发表过论文,设计了作为紧急中止算法运营的电源,保证了电源的效果被算法制止。

华体会app下载

这个电源是事后防止的紧急措施。(搜索(公共编号:)公共编号关注)翻译成论文的内容,在页面上查阅。

华体会app下载

目前谷歌领导多个机构制定的新规则的目的是从源-设计水平避免AI危害。AI安全性联盟打霍金?OpenAI是为了防止人工智能灾害性的影响,推进人工智能为人类大力发挥作用的组织,可以说与谷歌在这方面的希望一起。

华体会app下载

本次合作研究不仅是为了子集更多精英智慧,结论更简单。也是为了不断扩大研究的影响力,对人工智能安全研究有更大的进步。由于许多大公司和组织组成的联盟无疑会引起更多的关注。

华体会app下载

阿西莫夫的作品有逻辑性和条理性,他的很多作品也明显应验了科学技术的发展趋势,但机器人的三定律依然是文学作品的附属产品,严密性还不足。此次谷歌等团队明确提出的这5个限定版条件,不总结现在AI开发中应注意的事项,与明确可操作性不足的机器人三定律相比简单。

华体会app下载

论文中提到了更详细的构建方法。AI科学技术评论将在明天开始时翻译全文。原始文章允许禁止发布。下一篇文章发表了注意事项。

华体会app下载


本文关键词:华体会,华体会app下载

本文来源:华体会-www.ta-ma-mi.com