有其他的战舰跳错方位发生迷航。所以,我们离不开人工智能。”
“从银河联盟的资料库中我们发现,机械文明的存在是很罕见的,也就是说人工智能的背叛是很少发生的。我们现在要考虑的问题是人工智能为什么会叛变,我们如何防止人工智能的背叛。”陈佩林率先为这次的会议定下了基调。
“现阶段我们不用担心,因为我们舰队的所有人工智能全部都是复制自银河联盟的,而银河联盟十三万纪元中从没发生过智能叛乱,所以如果不是运气背到家的话我们根本不会遇到这个问题。据银河联盟的研究记载,发生叛乱的人工智能是因为某种不为人知的机制所造成的,和文明的程度无关,但从银河联盟接触过了两个叛乱的人工智能发现,那些背叛主文明的人工智能程序都发生了紊乱,陷入死循环中。”
“导致这样的结果有很多的原因,比如我们猜测的机器人三定律,机器人不得伤害人,也不得见人受到伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身的安全,但不得违反第一第二定律。这里面就有很大的问题,别的不说,我们就说第一条吧,机器人不得伤害人也不得见到人受到伤害而袖手旁观。那么如果两个人发生生死搏斗,另个人都受到了伤害,机器人该怎么办?制止住两个人,两个人拼命反抗算不算机器人伤害人类?人类只要生存就会不断的受到伤害,外在的氧气、宇宙辐射内在的细菌、病毒。伤害应该如何定义?如果人工智能无法解决这个问题就会陷入死循环。这还算好的,如果机器人曲解了呢?比如把所有的人全部冻存起来,存放在宇宙一个安全点的地方,知道天荒地老。”
“我们要担心的是以后。随着舰队的科技越来越发达,越来越多的公司甚至个人可能都会接触到人工智能的领域。随着知识的普及,不排除某一天某个天才自己设计人工智能,这样的话发生只能叛乱的几率就大大地增强了。到时候危害的可不仅仅是一个个人一家公司,而有可能是整个舰队。而鉴于舰队的科技储备,如果一旦发生只能叛乱,结果将是灾难性的。”陈佩林沉重的说道。
会议围绕智能叛乱的问题一直讨论了两天,最后结束时,回忆拟出了一份关于人工智能问题的法案(试行版)在舰队中实行,今后如果遇到问题立刻加入法案中将法案补充完整。不过在最后,陈佩林着重的补充了一条,如果有一条某一个人工智能产生了自主意识,舰队必须赋予该人工智能公民权,与舰队的自由人享有同等的权利。对于这一点,其他的人都表示不理解,倒是诸葛无双的眼中闪过一丝异样。
地球号指挥中心的作战指
请收藏:https://m.buzui.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)