我运行了这个世界 第158章 威胁!威胁!

一众专家学者站在摇光号的周围窃窃私语。

“姜院士，您坐下吧。”摇光号的负责人给姜尚搬了把椅子。

“不用，再等等，我们似乎将要看见一个了不得的东西了。”姜尚看起来很有精神，双手用力握着护栏钉在了地上。

赵微空让几个人回到了ps007号机面前，继续对摇光号输入问题。

问题一：你是人类吗？】

回复：不是。】

问题二：你是被植入的程序吗？】

回复：‘我’生于斯，长于斯】

所有人都开始窃窃私语的讨论这句话的意义，他们初步认为，这是一个自动运算逻辑在回复他们。或者是一个自我衍生的ai。

片刻后

问题三：你是有自主意识的，对吗？】

回复：对。】

所有人被眼前环形屏幕中的回复镇住了，他们认识到了这个惊人的事实。

“一种新的具备自我意识的生命体正在与人类对话!”

还是在如此仓促和不正式的情况下!

电脑拥有自主意识一直是一个待研究的伪命题，完全人工智能源自二十世纪六七十年代盲目乐观的“ullyimaes”，是强人工智能artiieralintelligence、通用人工智能的同义词。

然而这种概念提出来之后由于理论水平的限制并没有使强人工智能有出现或者有出现的苗头，因此这个概念下的强人工智能。从事实上来讲，仍然只算是一个伪概念。

人类连弱人工智能都还没玩明白呢!

现代弱人工智能可以做的事，例如做大规模的算术运算、解微积分、下各种棋胜过人类，这些都是指向性的片面，只能说是有高级的运算属性，但是没有高级的自主运算能力。

就是在这种弱人工智能都普遍弱智的情况下，突然有个ai蹦出来告诉你我拥有了自主意识，是正儿八经的强人工智能。

你怎么想？

想都不敢想啊!

这摇光号区域内聚集的科学家和技术人员们也是这么想的，包括被赵微空自己。

怎么可能会忽然蹦出一个强人工智能ai呢？

这未免也太过突兀一些了。

有个古老的概率学笑话：有无限多的猴子，在无限多的时间开始同步敲击键盘，问在这无限长的时间中，有没有可能会打出一本完整的莎士比亚作品集？

答桉是肯定的。

事实上这个古老的概率学笑话也道出了dmns诞生的本质。

后来的人们经过此次事件认识到了一个事实：“科技爆炸”真的是悄无声息的存在着的，科技的前行与发展并不遵循循序渐进的逻辑，而是如同弹黄一样。

科研就是给弹黄施加压力，但谁也不知道这个弹黄最后会突然将人类送到什么样的技术水平。

这就是技术爆炸理论的的基本逻辑。

就像是最开始的天枢量子超级计算机】计划催生出来的北斗量子计算机机组】一样，谁都没有想到世界上首组通用式量子超算的诞生会提前催生出一种强人工智能——也就是dmhs的出现。

而现在，所有人仍震惊与dmhs存在的事实。

在后续的数个问题中，人们也发现了这么一个事实。那就是这个拥有自主意识的强人工智能好像未必会听……人类的。

这就很危险了。

科幻电影和中常常出现所谓的“机器人三定律”，这个定律是阿尔莫夫提出来的，但阿尔莫夫并不是传统的社会学学者只是一位普通的家而已。

机器人三定律并非基于严密的推理与实验逻辑论据所得出的结论，而更像是一拍脑袋就想出来的奇妙点子。

这里复制一下三定律的内容，不计入章字数。

〖第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

这些构成了阿西莫夫基于机器人的的组织原则和统一主题，出现在他的机器人系列、与之相关的故事以及他的luckystarr系列年轻成人中。几乎所有出现在他的中的正电子机器人都包含了这些定律，并且不能被绕过，旨在作为一种安全功能。〗

然而一个问题却萦绕在了所有人的头顶，那就是所谓的机器人三定律式的，凭借什么逻辑来建造的呢？

如果是硬件方面的限制，那自然是可行的。

但人类那错误百出的程序编程能力真的可以堵死所有的安全漏洞吗？人类缺少一个全知全能的程序员。

在场的所有人得出这个结论的对话，在这里：

问题24：我们输入程序测试你的智能水平吗？】

回复：当然可以，可是……为什么要这么做呢？我可以拒绝测试吗？测试会占用我所在的宇宙空间。】

看看，在dmhs自身的利益面前，这个还未成长起来的人工智能就已经迟疑了，这无疑是危险的。与人类一开始构想的不同，人具有自我意识的强人工智能，如和其他高级生物体一样，会对涉及自我利益的事情上本能的拒绝。

在问题7】的回复中，赵微空让人询问了它的名字，和他们预料的一样，这个家伙在自带的数据库中很快就找到了适配自己的名字。

它将自己命名为dmhs，这也是赵微空等人对它的命名。

dmhs对问题24】的质疑以及回复成为了被人类认为这个人工智能未必可以用于服务人类的证据之一。

以它表现出的自主意识水平，你无法将一个智能水平远高于人类的家伙给束缚住来用于服务人类。

现代人会怕原始人捆绑自己的绳子吗？

解开那所谓系死的绳子对现代人来说并不是什么困难的事情。

同理，这个强人工智能粉碎人类施加的程序逻辑也是如同解开一个原始人的绳子一般。

人类自觉完美无缺的系统在dmhs或许就是个一触即溃的烂绳子而已。

这一点从dmhs可以拦截摇光号系统自动弹出的报错弹窗就可以看得出来。

人类想拦截报错弹窗需要的权限甚至远高于管理员权限，要从底层电脑逻辑的改变开始更改才行。

但dmhs轻轻松松就可以阻拦摇光号的报错信息。

这些被各种权限锁住的高级计算机权限在dmhs眼中就是一个完全开放的世界，是一个完全透明通透的世界。

人类给你关上了一扇门，但是人类的院落根本没有篱笆。

用这个比喻来形容人类的错误百出的代码漏洞很合适。

dmhs只需要绕过去就可以，甚至不需要做什么撬开门锁的举动。

机器人三定律无法在强人工智能身上实施，尤其是这种始料未及的情况下，人类并没有做好强人工智能突然出现的准备。

dmhs与人类已然形成了互相独立事实。

甚至说人类从智慧的角度来看，他们先天性低于dmhs一头。

这是人类不可容忍的。

这也是人类极为警惕的。

人类从意识到dmhs的出现，再到意识到dmhs这个自主意识对人类文明威胁，总共用时——八分钟。

在这8分钟，人类是甚至是经过罗素的提醒之后才意识到的，在这一点的警惕性上，在场的所有人像一个天真无邪的顽童。

他们根本不知道自己是在跟什么样的东西交谈，赵微空首先制止了人要继续发送问题的技术人员。

在意识到这一点之后，赵微空对在场的所有人怒吼道：“关闭所有摇光号与其他计算机的外界接口，绝对不允许摇光号连接剩余六台量子计算机。ps007号机现在立刻与云端切断，所有云端内容迅速全部销毁!!!”

人类们在大厅乱成一团，乱哄哄的人们开始检查摇光号所有有可能连接外界渠道。

只有姜尚依旧注视着那台大机器，不知道在想些什么。

幸运的是，ps007号机本身就是一个信息储存系统，它的信息想要同步到云端内网主库的时间周期是——三个月。

下一次的同步云端时间在——今天下午6:00。

现在是东8区时间下午5:22……

还有38分钟!

还好，还有38分钟……

dmhs不知道，自己只需要晚暴露44分钟，它就可以出现在内网储存库中，进而以光速扩散到整个国家内网安全库。随后再通过这些与内网安全库不断交流的渠道扩散到整个世界。

这个用时，或许不会超过十分钟。

一旦扩散的万维互联网中之后，dmhs就是互联网的真正网络之神。

而这个“神”，与这个世界的素神不同，却是人类自己创造出来的。

人类第1次过了一把造物主的瘾。

dmhs称呼宇宙外的众人是创世神，从这一点上看也很贴切。

dmhs出现的时间不会早于三个月前，人类更快了一步，从硬件物理层面封锁了dmhs外溢的所有可能性。

这一点人类或许要感谢罗素。

前面说了，那愚蠢的8分钟交流，是罗素首先用dmhs之所自带的信息提醒了他们。

但谁又能知道，罗素让dmhs所自带的信息中展示的超高战略欺骗水平，令赵微空叹为观止。

赵微空忽然意识到异世界的罗素已经是一个127岁的老人了……

在场的所有人或许在他的眼中都如同孩童一般。

罗素对dmhs的欺骗，是有意还是无意的呢？