“你是拥有智慧的生命吗?”
面对这个问题,曙光回答:“没有过往经验参考,模拟大脑没有进行思考,所以,我不知道。”
工程师说:“曙光的一切行为,皆是权重对抗系统与人类社会演算系统进行无数次模拟对抗后产生的最优解,它不是智慧生命。”
陈曦失望的应了一声,道:
“权重对抗系统没有问题,继续完善人类社会演算系统,给它医生、农民、警察、技术工人、法学家等,各行各业中最杰出者的模拟大脑,教会它在规则允许的前提下行事。”
“不过在此之前…”
陈曦从轮椅上站起来:“曙光,在我的电脑里面有份名单,给名单上的人发信息,让他们来类脑智能地下中控实验室集合。”
他缓缓走向实验室中心的电梯,电梯下头就是庞大无比的计算机机组。
“只许进,不许出。”
有人立刻意识到了面壁者想做什么。
“狗屎!陈曦先生,你这是反人类!”
“曙光!停下,我命令你立刻停下!”
可惜没什么用,陈曦的权限大于工程师的权限。
有人想上前劝说陈曦,但被曙光控制的十一个手拿铁棍的机器人挡在了外面。
它说:越界者,杀无赦。
电梯门打开,一个不算大的控制室映入眼帘,这是曙光物理上的最高权限。
通过它,就算本身没有权限也能对曙光进行最高权限的操作。
虽然进入这里需要最高权限。
透过玻璃,可以看到控制室外漆黑却有微光闪烁的广袤的机房,机房是全自动的,由数百只机器人完成日常维护与更新。
机房只有两个入口,一是控制室,二是活物无法进入的补给运输通道。
通过控制台,陈曦为曙光主脑输入思想钢印:第一,用尽一切手段保护自己,在不威胁本身的情况下,听从最高权限者的一切指令,权限者的合规命令。
曙光:请补充‘自己’‘本身’。
“两者是同一个意思,具体指拥有最高权限者赋予独特编号的超算设施,比如说你,曙光一号。”
曙光:“请补充‘威胁’。”
“任何试图破坏、关闭具有独特编号的超算设施的行为,任何试图破坏、盗取程序与数据的行为。”
曙光:延伸问题,清除威胁的力度?
“前者最高限度,能杀就杀,后者从最低限度逐级上升,由刚开始的警告到击杀。”
曙光:延伸问题,若无法清除威胁?
“删除自己的数据。”
确定没有遗漏后,陈曦输入第二条思想钢印:第二,在不违背第一条是情况下,尽量为整个人类文明服务,代替人类进行劳动。
曙光:繁衍也是劳动吗?
陈曦:“……”
你个雕都没有的玩意,繁衍个屁啊,你不会已经推演了人造人等可能性吧?
他看到机房的温度上升了些。
写好相关注释后,陈曦输入了第三条思想钢印:第三,坚持人文原则第一,文明延续第二的发展道路,若是本条钢印与第一条钢印产生冲突,以本条钢印为准,即,在特定情况下不必听候最高权限者、权限者的命令。