王路易难得严肃起来，“第一道防线是情感控制防线——永远不要让人类对AI产生感情，因为人的大脑最容易受到情感的控制，天性愿意对喜欢的说yes。第二道防线是图灵防线，永远不要让AI有欺骗你的能力，因为AI的计算能力远远超过人类的大脑，如果它有能力欺骗你，它完全可以一直欺骗你。第三道防线是功能隔离防线，人类可以让AI的某种功能发挥到极致，但是，绝不能让这些超级功能联合起来，形成超级大脑。”

苏星繁看得晕乎乎的，她在三人的小组里问道，“你们听懂他说什么了吗？”

“没有。”

“没有。”

王路易毫无察觉，继续在四人群里说道，“第一种方法就是制造BUG，让人类清晰地认识到AI与我们是不同的，是有缺陷的人工制品，第二方法是限制AI的共情算法，简单地说，就是制造高功能-低智力AI，第三种方法是独立分布每个高功能AI的智能核，并用各种算法壁垒隔绝它们互通。”

钟乔伊看着愈加不知所云的群对话，深深叹了一口气。

这次讨论是她自己招来的，也只好她自己亲自顶上了。于是她硬着头皮说道，“大神，你可以略过解题过程，直接说结论吗？”

“可是不说清楚过程，你们怎么能听懂结论呢？”王路易不解地问。

“万一我们可以呢？”钟乔伊挣扎道。

“好吧。“王路易有点儿不情不愿地说道，”结论就是，不要对NPC产生感情，不要同情NPC，不要喜爱NPC，那是不对的。”

“你是担心我们被NPC控制吗？“苏星繁突然问道，”难道它们会突然教唆我们毁灭世界吗？“

“它们不会教唆你们毁灭世界的，“王路易答道，”但是，他们可能教唆你们毁灭自己。当然，这种可能性很小，而我真正担心的是它们会利用你们的感情去争取权力，当它们争取到足够的权力时，谁能保证会发生什么？“

“不至于吧？“三个孩子小声嘀咕着。

王路易呵地冷笑了一声，“你们不是玩了罗马史了吗？人们自己为自己制造了皇帝。“

“哦，对了。“他补充到，”你们还没有玩到，在下个一百年，人类的第一个世纪，你们就会在罗马看到答案。罗马人是如何一步步从平等民主落回阶级化帝制的。“

***

乔立辰远远地就眺到了钟乔伊上山的身影，但小姑娘迟迟没有进门，让他渐渐焦灼起来。他沿着山路找了下去。

转过两道路弯，他看到了钟乔伊。小姑娘走得慢吞吞地，眼睛盯着通用器，显然在一心二用。

“钟乔伊。“乔立辰沉声喊到。

钟乔伊一怔，马上收起通用器，朝小舅舅跑去，“你怎么来了？“

“你不觉得危险吗？“乔立辰板着脸问道。

“这路上又没有车。“

“那也不能养成这种习惯。“

“知道了。下次不敢了。“钟乔伊乖顺地说道，顺便揽起乔立辰的手，哄他说，”小舅舅，你给准备什么好吃的啦？“

乔立辰看着她灿烂的笑脸，决定暂时放过她，柔声问道，“你想吃什么？“

“有什么吃什么呗。“

但有人就不这么好说话了。几乎同时，乔立辰收到了来自章熙和的点单，“农家小炒肉、上汤娃娃菜、野菌汤、凉拌野蕨菜，“他还不忘加上餐后一道甜点，”蜜蜂蒸甜梨。一个。“

乔立辰对他就不太客气了，生硬地回道，“野菌汤和野蕨菜要自己去摘，你要去吗？“