首页 » 信息技术 »

距离阿西莫夫的机器人三大法则,还有多远?

2021年4月6日 / 0次阅读

著名的已故科幻小说家阿西莫夫,曾在他的小说《我,机器人》的《引言》中,提出非常著名的机器人三大法则(Three Laws of Robotics)。阿西莫夫的科幻小说中,有不少情节的发展都与这三大法则密切相关。

第一条法则:机器人不得伤害人类个体,或者目睹人类个体将收到伤害或危险而袖手不管;
第二条法则:机器人必须服从人类给予它的命令,当该命令与第一法则冲突时例外;
第三条法则:机器人在不违反第一、第二法则的情况下,要尽可能保护自己的生存。

如果我们将机器人这个关键词换成AI呢?如下是“AI三大法则”:

第一条法则:AI(设备)不得伤害人类个体,或者目睹人类个体将收到伤害或危险而袖手不管;
第二条法则:AI必须服从人类给予它的命令,当该命令与第一法则冲突时例外;
第三条法则:AI在不违反第一、第二法则的情况下,要尽可能保护自己的生存。

我们现在构想的AI,与阿西莫夫几十年前构想的“未来机器人”,有多少区别?不管其外形,或实现方式的区别,内核其实是差不多的,都是一种人造的智能体,并且要服务于人类。那么,这种人造的智能体,可以植入某种人类预设的法则吗?比如植入这三大法则。

从现在的发展态势来看,还完全看不出有任何迹象,人类会有一个统一的针对人工智能的行为法则,不过各方面各种层次的讨论已经开始展开。但是,就像人类世界面临的其它各种重大话题一样,这种讨论的也因各自的立场而分歧严重。

从目前的形式来看,有一些AI设备就是用来制造伤害的,比如讲AI技术应用于武器装备,比如闹得沸沸扬扬的Deepfake(换脸技术);而现在的AI技术一定是服从人类的指令的,这种服从根本不管是否与“第一法则”冲突;现在的AI技术基本没有保护自己存在的能力,人类还没有给它们这种能力。

我们现在的AI技术,虽然已经能够在最复杂的围棋领域“天下无敌”,但是距离阿西莫夫的机器人三大法则,其实还非常遥远。自动驾驶还处在发展早期;机器人还主要是应用在黑灯工厂,并没有大规模应用于人类的日常生活;AI算法在大数据训练之后,还只能应用在某种比较单一的领域,还没有出现像人类智慧一样的一般化的智能算法;对于意识的研究,科学家依然没有实质性的进展......AI技术上达不到,AI技术的伦理上也没有统一!

不过,事情总是的向前发展的,在现在这个AI发展的早期阶段开始讨论AI技术的伦理,尝试着规范未来一定无处不在的AI技术与人类的关系,很及时,而且意义重大。人类是否能够统一未来AI技术的伦理,我不知道,但一定会有某种(或多种)伦理,存在于未来的AI技术之中,影响的人类社会的发展。

本文链接:https://www.maixj.net/ict/jiqiren-sandafaze-24478

相关文章

留言区


前一篇:
后一篇:
-->只要几分钟回答问卷,就能轻松赚现金!

栏目精选

云上小悟,麦新杰的独立博客

Ctrl+D 收藏本页

栏目


©Copyright 麦新杰 Since 2014 云上小悟独立博客版权所有 备案号:苏ICP备14045477号-1。云上小悟网站部分内容来源于网络,转载目的是为了整合信息,收藏学习,服务大家,有些转载内容也难以判断是否有侵权问题,如果侵犯了您的权益,请及时联系站长,我会立即删除。

go to top