第576章 人工智能限制法案-《重生穹顶之下》
第(2/3)页
麦克库尔揉了揉眉心,脸色疲惫的道:“主控脑叛变这是一个极其麻烦的事情,如果我们能够及时发现,这还好解决,毕竟人工智能生命自从被禁止放开级别之后,他们就算拥有了自己的独立人格,也不会有很强的实力,但这种事情层出不穷,监控难度越来越大,造成的破坏很难规避啊。”
战魔比克听到这个,脸色也不太好看,不过他还是说道:“这一点也是没有办法的事情,毕竟我们的科技要进步,人工智能的使用利大于弊。”
在整个战魔联盟,有一项基本法,这跟银河系基本七条有些类似,其中包括不能非法摧毁恒星等等。当然,其中有一条很重要的立法,就是在三千万年前由战魔星域联盟立法会通过的人工智能限制法案。
在人类文明的进程中,有许多文明在二级,三级时被自己消灭,有的甚至在一级巅峰时,便自我毁灭了,这毁灭的原因,竟然是他们自己创造的人工智能。
人工智能到了一定级别,会产生独立人格,拥有七情六欲,这就让他产生了脱离人类掌控,甚至直接叛变人类,攻击人类的行为。
这些人工智能便是数据生命。
他也许是一台电脑,也许是一个程序,更多的是一些设备的主控脑。比如飞船的主控脑,如果他打破了人类给他设置的不攻击不独立特定程序,他就会开始攻击人类,甚至利用飞船内强大的设备,自我复制,甚至生产武器,攻击人类。
在人类文明史上,被人工智能灭掉的文明不计其数。战魔族也是从这一步走出来的,每一个科技文明要提升到更高阶段,都有面临一次这样的洗礼。
麦克库尔所说的主控脑叛变事件,说的就是他们之前在制造太阳星戴森球时遇到的一艘飞船主控程序产生独立人格,帮助他的同类飞船摆脱人类的不攻击人类特定程序,发动叛变之事。
这还属于小事件,麦克库尔凭借强大实力,直接镇压了。
人工智能现在被限制,人工智能级别限制法案规定,任何的人工智能主控脑,只允许载入本行业相关信息和技能,并设置强大的防火墙。比如建造类飞船,就不允许载入战争、生活等其他信息。并且严格控制级别,人工智能制造的战士,那就更不用说了,法案明确规定,任何智能战士不允许累计铭刻法则五段以上铭文。这个关键就在于累计二字,就是说一个智能战士,从身体至程序再到武器,铭刻的法则累计不能超过五段。
在四级文明中,人工智能造成的副作用基本得到控制,但有些情况实在防不胜防。也有善于隐忍的数据生命,生存在人类科技的各个角落。
第(2/3)页