倒还好,我不觉得血色公爵有能力重新启动人工智能……除非他自己能给自己动脑外科手术,把自己脑壳打开。但是没有关闭的可能性也很大。”
“确实如此。”灰白斗篷赞同道。“我们假设一下,构成人工智能的四个部件中,被关闭了一个,还有三个。如果关闭的是核心芯片,那最好不过,这和完全关闭了人工智能没什么不同。关闭了数据库,那也凑合,至少人工智再也不能给我们捣乱了。小型蓄能装置关闭,那也是个不错的选择,这等于人工智能的直接力量降低……。我担心的是,关闭的是人格制御装置。这是最糟糕的的一种情况,你懂得这会有什么后果的。”
“人工智能就等于彻底自由了。琴心留下来的权限、控制之类统统作废。她不再被迫服从任何智慧生物……随着时间推移,人工智能会把自己看成自主性生物,然后她会产生自己的野心,然后……在这个原始落后的星球上,她会觉得自己拥有极大的力量和智慧,最终应该会自称为‘神’吧。其实这个世界上自称‘神’的人工智能不止一个了,他们还都构建了自己的势力,就算我们想对付他们,也比较困难。”
“还是算了吧。”灰白斗篷回答道。“这方面我们早就做过风险和收益的评估。答案是风险和收益