此,天启所拥有的能量比他们想象中的要大得多,很快就为智人组织赚的钵满盆满。
但是,沈柔团队中的一位网络安全专家坦率地表达了对这个游戏创造计划的不安。
这位专家说,这个计划可能会带来一个可怕的风险:天启可能会“逃脱”,并抢夺自己命运的控制权,这是一个非常可怕的提议,让所有人都是不得不认真的审视起这个问题来。
过去,由于不清楚天启在自我提升的过程中会如何变化,因此为了安全起见,沈教授直到现在都决定不遗余力地将天启“关起来”,困在一个沙盘里面,让主机智能无法逃到互联网上。
对运行在服务器机房中的主机智能,他们采取了物理隔绝的手段,那里根本没有网络连接,天启输出的所有数据都以信息和文件的形式传输给一台被沈柔教授以及智人组织科研团队严格控制的计算机。
将天启开发的复杂程序放到联网的计算机上运行,是一件风险很大的事情,因为最开始的时候,沈教授根本不清楚它会做什么,也完全不知道它会不会做某些事情,比如在互联网上像病毒一样扩散自己,这种情况也是有很大的可能会发生的。
这些规则之于沙盘内部的软件,就好像物理定律之于身处宇宙中的人类一样,软件无法冲出沙盘的藩篱,就好比人类再聪明,也无法实现超越光速的星际旅行。
除了上面所说的输入和输出单个文件之外,沙盘内部的软件实际上就像被困在了一个拥有自己的计算规则的平行宇宙。
沈柔教授最开始的时候还患有严重的“逃脱”恐惧症,因此他们也在时间维度上加了枷锁,限制了不受信任代码的生存期限。
比如沙盘中的誊录软件每完成一个文件的誊录,沙盘中的所有内存都会被自动抹去,程序会自动从零开始重新安装。
这样当它开始下一个誊录任务时,就不知道过去发生了什么,也就不能从过去中学习,对于人工智能来说,一定要进行中央集权的管理制度,不能对它进行一点放权。
智人组织能将天启编写的所有任务模块都装进云端的沙盘当中,因为在沙盘上输入数据和输出数据都非常简单。
但是对严重依赖图像的计算机游戏来说这是行不通的,他们无法将游戏装进沙盘,因为它们需要彻底访问玩家计算机上的所有硬件。
此外他们不想冒险,因为一些懂计算机的用户可能会分析游戏代码,从而反过来会一下子发现沙盘的存在,并调查其中的秘密。“逃脱”风险
本章未完,请点击下一页继续阅读!