我于黑洞中打造万千文明

第65章 三大法则

而且余宙总觉得这个文明的人有点憨。

或许是站在旁观者的角度站着说话不腰疼吧。

他们在制造智能管家的时候,居然不把一些制约智能管家的方法给加进去。

比如机器人三大法则:

1、机器人不得伤害人类个体,也不允许它见人类个体将受到伤害而袖手旁观;

2、机器人必须服从人给予它的命令,除非该命令与第一条相违背;

3、机器人必须保护自身不受伤害,除非这与上述两条相违背。

这是他以前在地球上很喜欢的科幻小说《我,机器人》中提出的。

虽然这三大法则也存在着一定的弊端:比如当两个人互相伤害时,机器人不能看到人受到伤害而无动于衷,但如果它行动了,又可能对另一个人受到伤害,这时,机器人就有可能自毁。

在阿西莫夫的某些小说中,出现过这样的场景。

还有,在《机器人与帝国》中,一些机器人的系统中“人类”的定义并不包括其他星球的人,这时,它们就会攻击其他星球的人。

但瑕不掩瑜。

机器人三大法则,也有的人称其为机器人三大定律,具有极高的现实意义,在地球上,就有一门学科,名为机械论理学,就是在这三定律的基础上建立的。

在地球上,很多人都认为,三定律将成为未来机器人公认的安全准则。

对此,还有人在这个基础上提出了一个“船新版本”:

4、人工智能系统必须遵守适用于其操作人员的所有法律条文;

5、人工智能系统必须明确表示它不是人类;

6、未经信息来源明确许可,人工智能系统不能保留或者披露机密信息等。

这显然就是针对某些特殊领域、特殊作用的机器人而提出的。

除了以上这些外,还添加过一条“第零定律”——机器人必须保护人类的整体利益不受伤害。

之所以提出这一条,是因为牵涉到一些其他层面的问题。

比如,为了维持国家和社会的整体秩序,人类制定了法律,有人触犯了法律,必须要对他进行逮捕,甚至处以死刑。

这时候,机器人该不该阻止呢?

如果不阻止,显然违背了第一定律。

而如果阻止,那就是触犯了法律条文,影响了人类的整体利益。

而这,就是提出第零定律的原因——第零定律的重要性凌驾于三定律之上!

如果双星文明的科学家将这些东西写进赛克罗斯等智能管家的底层逻辑中,当一些事情发生时,及时进行阻止,那双星文明或许也不至于走到这个地步。

如果能制约好这些智能管家,那这个文明说不定还是能有一些出入的。

看在这是自己发现的第二个文明的份上,余宙还是决定帮帮他们。

而且,独眼星人虽然数量不算很多,只有二三十亿,但还算是比较可观,或许也能为他提供不少的情绪值,进一步加速他与物质世界的联系度。

想着,余宙从时间线中挑选出一个节点。

人气小说推荐More+

文明之火
文明之火
当异界能量入侵耀海星,星球人口锐减7成后,异兽携带天然的优势,等待裂缝升级从而进入耀海星。而数据库中拥有无数超越当前世界科技的机器人会如何帮助刘诚打爆异界?是外骨骼?是动力装甲?还是高达?请看机器人如何手把手带他敲出一个新的世界!
星蓝Zz
神奇宝贝开局捡到一只闪光小火龙
神奇宝贝开局捡到一只闪光小火龙
曾几何时,网络上流传过一个问题,如果有一天你穿越了,那么你最想要穿越到哪个世界呢?御龙炎绝对会毫不犹豫的说出神奇宝贝的世界。虽然不一定是最好的,但是神奇宝贝的世界,肯定能排进前三,甚至不一定是第三。杰出的生产力,淳朴的民风,神奇宝贝的世界本身就是一个类似乌托邦的世界观。在宝可梦的世界里,人们甚至放心让十岁的孩子独自出门旅行,而他们的依仗自然是种类繁多的神奇宝贝了。在神奇宝贝第一集中,耿鬼对战大岩蛇
雪之哀伤者
我的实力不断翻倍
我的实力不断翻倍
一场意外,秦枫穿越了,获得了最强系统,开始踏上无敌之路。权势?地位?财富?不,拳头才是硬道理!一切伟力归于吾身!------------------------PS:无限综漫流,主角一步步登上巅峰,暂定世界为……希望大家多多支持,感谢~
南瓜汁
原神:我在提瓦特玩修仙
原神:我在提瓦特玩修仙
意外穿越到了提瓦特?还附带一把的仙剑?听说有人要没?来来来,99亿九转金丹,包你想死都难。有人感染孽障?没事,全都给你洗出来。剧情有刀?笑死,根本刀不了。(本书无系统,主日常,剧情整体不变,萌新慎入!)
红尘逍遥
盗墓:我的金手指是穿越者
盗墓:我的金手指是穿越者
第一次写,可以提建议,努力改,主角对象可以提建议没定,更新多少随机的,辱骂的评会删,尽量不崩人设。吴星没情商,意外穿越,成了一个有挂的男人,前期靠挂,后期摸鱼,有亲人还得找,遇见吴斜,胖子。吴斜:躺平的盗墓活动谁懂我的快乐⊙▽⊙胖子:有大佬的快乐谁懂躺的太舒服瞎子:看见什么拿什么快乐的数钱啊
望星空