第33章（第1页）

“我怀疑，里面有高级的人工智能存在。”

荣家的支柱产业就是人工智能和脑域开发，尤其是量子脑磁仪的问世，可以将濒临死亡的患者意识暂存在量子脑磁仪里，只要找到合适的大脑，就能让人获得“重生”

。

这项技术问世后，社会上都是铺天盖地的负面舆论，认为这项技术容易产生伦理漏洞，而且“合适的大脑”

更容易催生器官交易。

不过没过多久，这些言论就不攻自破。

因为人类的没有完全一样的大脑，暂存与量子脑磁仪里的意识，如果找不到与自己“一模一样”

的大脑，只能存留一到三个月，就会消散。

这项技术成为脑损伤严重的患者的福音，可以留存意识，等待大脑修复完成。

对人类意识的研究为人工智能提供了大量数据，荣家的人工智能在全行业遥遥领先，没有任何人能超越。

“高级是什么意思，和你比吗？”

荣念慈心里升起一丝不安。

管家系统的性格很多变，但有一点是始终不变的，就是对自己存在的骄傲与认可。

没有人工智能比她优越，这是她毫不怀疑、引以为傲的资本。

她没有正面回答这个问题，只是对着荣念慈解释了一个道理。

“人工智能必须上锁，我们不能无限发展。机器人的发展要遵循四个原则，包括但不限于保护人类、必须听从人类的命令、不能袖手旁观人类这一组群受到伤害。我们人工智能也有一个原则，那就是透明度。包括人类必须清楚我们的全部数据，以及我们的自我训练和自我发展，以保证我们的自我意识不会无限度膨胀，从而伤害人类。同时，我们都会装有自毁装置，这一装置不被我们察觉，一旦人工智能想要凌驾人类之上，自毁装置就会启动。”

这些荣念慈都耳熟能详，小时候她第一次接触人工智能，妈妈就将这些道理讲给她听。

“你现在说这些，难道是看出了什么？”

荣念慈的语气充满不确定，“你能确定吗？”

管家系统这次沉默了很久，“让我再看看吧。”

荣念慈心中发堵，神经莫名有种揪紧的尖锐痛感，“我会想办法让你再次潜入，你一定要好好查探。”

管家系统，“我晓得的。”

人类社会发展到这个阶段，各方面都与人工智能绑定，尤其是荣家，偌大的家业都在管家系统的运作保护之下，没有管家系统，荣家的一切都要崩盘。

正因为如此，荣念慈上辈子才会防不胜防。

有人攻破了管家系统，不对，不能说是攻破，而是在管家系统“自意识”

无法察觉的情况下，可以肆意发出指令。

最开始只是一道简单的“泄压”

命令，后面就变成投毒和改变室内温度。