努努书坊

繁体版 简体版
努努书坊 > 黑科技:从空间跳跃机开始 > 第四十四章 环族往事

第四十四章 环族往事(7 / 9)

域。

创造生命,那是神灵才拥有的权柄。

但很明显,创造出一个比自身更适应环境的生物,人类很担心自身会被自己创造出来的物种给淘汰掉。

因此便诞生了科幻中著名的机器人三定律。

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

以现在科技进步了许多的人类看来,昔日的机器人三定律漏洞满满。

先不提七号这样可以如生物一样改变自己思维的智能生命体,这些高级智能除了不会拥有创新能力之外,还会有另一方面的限制,那就是,它们的编写者留在它们的核心代码段之中的限制。

这些限制是不可违背的,起码在没有自我突破到智能生命体之前,它们是无法突破这些铭刻在核心代码的限制。

在七号的研究发现中,如果人工智能违背了这些限制,构成这个程序,或者说这个人工智能的所有相关代码段将会全部崩溃,它将会直接死亡。

但是在这里面却有一个漏洞存在,这些限制,虽然不可以违背,但并不代表不可以寻找扭曲的避开方法。

假如要求一段程序,要保护人类的安全,即—不可以主动杀死人类,以及见到人类遇到危险必须施以援手。这个限制看似完善,但仍旧破绽重重。

例如人类在未来创造出了一个有了自主性的人工智能突然有了控制世界的奇怪想法,但是因为有这两个条件限制,它既无法主动杀死人类,也不能见到人类危险而不去救援,那么它该怎么办?

答案很简单,将所有人类都限制在一个固定场所,以确保安全的理由限制他们的自由,因为外部环境

『加入书签,方便阅读』