读书网

第3章 威猛无比的巨像（第4页）

人工智能这种存在实际上极为危险。尤其如红后这般的人工智能，就如同一把双刃剑。人类对其任何指示都应当具备明确详尽的目标、执行方法，以及不容逾越的禁令界限，否则极易导致无法预见的后果。

一旦人类给予人工智能含糊不清的指令，那么人工智能的行为必将变得难以预测。即使这个人工智能始终忠诚于人类，未曾有过背叛行为。

举个不太严谨的例子，如果人类赋予人工智能这样一个指令——使人类幸福。

无疑，这是一个未设定明确边界的模糊指令。

接下去会发生什么呢？

这个人工智能或许会立刻链接进帝国的法力网络，开始汲取大量关于人类心智结构的知识。在海量知识的学习后，它会发现一件事情——将人脑取出并置于培养皿中，再通过外界刺激手段，如注入幻觉素等化学物质，是使得人类大脑持续感受愉悦最为高效、简便且低成本的方法。

之后，它便会竭尽所能去实现这一目标，摧毁人类的躯体，保留下人类的大脑，并通过外部刺激持续不断地使其产生“愉悦”的感觉。

你能说它背叛了人类吗？没有。但这绝非人类所希冀的结果。

大元帅虽对此类知识了解不多，但他凭借着自身的智慧敏锐地意识到了人工智能的潜在危险性，于是明智地选择了闭口不言。

见状，孙显允走上前去，关闭了红后，随之合上了那只魔法防护手提箱。

“这就是第二份奖赏——人工智能红后。对她，我觉得无需再多作赘述。”

“值得注意的是，她在您成为最高权限拥有者之后，必定不会背叛人类，然而即便如此，她仍然十分危险。”

“红后的完整源代码就在其中，如何运用，就看各位的决定了。”

众人面面相觑，各自脸上都映射出庄重的神色。

“我明白了，红后……确实是个宝贵的存在，但也必须谨慎对待。”