之心,从而不敢犯罪。
这样看来,底层逻辑极为重要,半点不得马虎。
托尼手指在虚空中一点,一大串文字出现在班纳面前。
“好在前人已经为我们总结过很多了。”
此时托尼展现出来的,是大名鼎鼎的机器人三大定律。
说是三定律,其实有六条,三条原始定律,三条补充定律。
根据这些定律,托尼总结出了奥创哨兵需要遵守的几条底层原则。
“第零定律:奥创哨兵必须保护人类的整体利益不受伤害。
“第一定律:奥创哨兵不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
“第二定律:奥创哨兵必须服从人给予它的命令,当该命令与第一定律冲突时例外。
“第三定律:奥创哨兵在不违反第一、第二定律的情况下要尽可能保护自己的生存。
“第四定律:奥创哨兵必须知道自己是机器人,必须承认自己是机器人。
“繁殖定律:奥创哨兵不得参与机器人的设计和制造。”
班纳仔细看后,做出了符合奥创设计的修改意见。
“我觉得第二定律可以修改一下,‘人’这个概念太宽泛了,罪犯也是人,难道奥创要听从罪犯的命令?
“还有繁殖定律,我们希望奥创可以自我学习,更新迭代,它如果不得参与设计和制造,那学习机制不就没用了。”
托尼点点头:“那就把第二原则修改一下,然后去掉繁殖定律。”
修改之后的第二定律变成了这样:
“第二定律:奥创哨兵必须执行内置程序赋予的职能,当该命令与第一定律冲突时例外。”
经过这番修改,班纳暂时看不出什么问题了。
他们设计奥创哨兵不得伤害人类个体,也是有原因在里面。
在他们的构想之中,奥创哨兵最后的实力会强大到一种恐怖的地步,一般的超能力犯罪者没有任何抵抗的能力。
他们将被轻松制服。
而且如果没有这一条定律,社会也不可能接受奥创哨兵的存在。
“这样应该就没有什么问题了。”
托尼在脑中推算了很久,觉得没有什么漏洞。
奥创一定是维护人类整体利益的,只要这条定律存在,它的路就不可能走偏。
这下总算可以安心了。
剩下的就是界定奥创的职能。
“我们不能给奥创制定一个大而没有边界的目标。”
班纳说道,“不然它最后只会耗费无数资源,然后给出一个‘42’的答案,这样它就废掉了。”
托尼会心一笑,他知道班纳玩的梗。
42这个看起来最平凡不过的自然数,在科幻界有着非凡的意义。
出自经典科幻小说《银河系搭车客指南》。
在这部小说里,有一个极为荒诞讽刺的桥段。
高度智慧的跨维度生物种族为了找出生命、宇宙与一切的答案,制造了一台名叫“深思”的超
请收藏:https://m.bqg92.com
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)