注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

科幻世界 1979~2009

选择科学,与幻想同在

 
 
 

日志

 
 

为什么阿西莫夫的机器人三定律不能保护我们  

2015-01-12 15:31:00|  分类: 杂谈 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
来源:i09
翻译:张文竹

为什么阿西莫夫的机器人三定律不能保护我们 - 科幻世界 - 科幻世界 1979~2009

自阿西莫夫提出著名的“机器人三定律”——用以保证机器人友善待人,已经过去很多年了。虽然最早这只是阿西莫夫著名科幻小说的文学创作。然而,还是有很多人奖次定律看作是能使我们免于机器末日的方案。是事实,我们采访的一些专业人士对这所谓的“保障”还是遗憾的说:NO!

首先我们来看看,阿西莫夫最早是于1942年在其短篇小说《Runaround》里首次提及三定律:

法则一:机器人不得伤害人类,或坐视人类受到伤害

法则二:除非违背第一法则,机器人必须服从人类的命令

法则三:在不违背第一及第二法则下,机器人必须保护自己

但在1985年,《机器人与帝国》这本书中,阿西莫夫将三大法则扩张为四大法则(也称第零法则):机器人不得伤害人类整体,或坐视人类整体受到伤害。

为什么阿西莫夫的机器人三定律不能保护我们 - 科幻世界 - 科幻世界 1979~2009

在阿西莫夫的科幻世界中,这些规则被纳入几乎所有智能机器人中。这些规则不是单纯的建议或执导方针,是被嵌入到机器人的行为支配软件中。更为重要的是,这些规则在编写或修订中是不能被绕过的。

当然,如果你认为所谓的“规则”是完美的,那就大错特错了。专业人士们例举了三定律的几大缺陷:

1.内在的对抗性(天生树敌)

2.根据有缺陷的道德框架

3.研究人员拒绝

4.甚至在科幻文学中也有的问题

其实,三大定律只是存在于科幻小说里的乐趣所在,非要刨根问底的话……即使未来的某一天我们真会遭受AI所带来的生存威胁,但是世界上有那么多“专业人士”的存在,我们还是不要太过操心。简单的享受科幻文学所带来的乐趣岂不更好?

原文:http://io9.com/why-asimovs-three-laws-of-robotics-cant-protect-us-1553665410
转载请注明出处
  评论这张
 
阅读(25)| 评论(0)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017