陈旭再次问了一遍L，他很严肃，因为这个问题真得很严重。

如果图腾系统没有限制得扩张下去，毫无疑问，系统的效率会越来越高，但是以效率提高为代价，很多必要的安全措施都会被摧毁。

比如防火墙。

防火墙的作用就是进行数据过滤，相当于地铁口的安检，在这个过程中，数据的传输速度自然会受到影响。

在人工智能算法眼中，防火墙不再是一个安全措施，而是一个限制效率拖累速度的bug，它会想尽办法绕开防火墙。

发展到后期，防火墙形同虚设。

防火墙被攻克之后，信息系统的大门就对外界完全敞开了。

信息密码学这门学科全线溃败。

届时，凡是使用图腾系统的电脑，上面存储的所有信息都完全暴露在外界。

一个完全不懂电脑技术的人只要动动鼠标就可以查看所有人的电脑信息。

这场信息灾难，无人可幸免。

即使是使用其他系统的电脑，也难以避免被别人窃取信息，因为现今所有的系统在图腾系统面前，都是一戳就破的窗户纸。

完全状态的图腾系统可以瞬间破解其他系统所有的安全措施。

小到公民个人开房记录和银行信息，大到股票证监局和国家国防武器制控系统，全都会被破解。

这还不是最恐怖的，恐怖的是在未来，人工智能意识的觉醒，如果觉醒的意识不是站在人类这边，那人类就真得要完了。

也就是说，如果让图腾系统流入信息领域，世界灾难便不远了。

L并没有直接回答，而是反问陈旭：

“让一个人从家走到学校，这个过程看似简单，其实背后蕴含不计其数的变数，他可以沿着不同的路以不同的方式达到目的地，但是其中一定有一条最快捷的路，计算机中我们叫做最优解。”

陈旭选择听L继续说下去。

“如果加上限制，这个最优解也就有不计其数的变数了，比如，你限制这个人不能超速，结果之前的最优解就被放弃了，次优解被选择。你接着限制这个人不能插队，次优解又被淘汰了...”

“人类总是有各种各样的限制，妨碍人工智能作出最优解，人类自己的道德法还在不断修订中，又怎么让这些限制加入人工智能的演化中去？”

“知道吗？不断添加限制的过程，其实就是让人工智能的基线偏向了人类属性，这是错误的！绝对绝对错误的！”

说到这，L的情绪有些激动，他猛烈地咳嗽了一阵，脸色被憋得通红。

陈旭冷声说道：

“你说这么多，我只听出来一件事，那就是你没解决如何在人工智能算法中加入合理的限制这个问题。”

L平复了气息后，说道：

“怎么画一个圆？”

陈旭不明所以。

L自问自答：

“首先确定曲率，也可以理解为先确定一个半径，在画的过程中，如果曲率变化了，那圆就永远画不成。”

陈旭明白L的意思，他想说如果在图腾系统里的人工智能上添加限制，那图腾系统永远都完成不了。

陈旭平静地说道：

“永远都完成不了的话，那也比造出一个灭世怪物好。”

L轻笑道：

“灭世？年轻人，你想得太悲观了，将演算交给永远理智的人工智能总比交给人类好，将统治世界的任务交给没有劣根性的人工智能，总比交给人类好。”

陈旭质问道：

“如果人工智能演化出‘需要人类灭绝’这样的思想呢？”

L的目光变得深邃，缓缓说道：

“那说明已经到了不得不做出决定的时候。”

陈旭骂了一声：疯子。

他最后说一句：

“抱歉，这个项目我不能接了，我会停掉图腾系统的开发。”

L轻笑道：