第十二章 人工智能新法则（1 / 2）

时间先回到7月1日。

在黑纳林岛上，在围墙内的某处，有一张挺大的“U”型桌子，能坐9人，前方是一张演讲桌，上面有台电脑。

桌子上摆放的牌子，上面有中英翻译，写着姓名，来自哪里，级别倒是没有写，不过肯定不低。

除了一个印度的，其余人都来自五常。中美印共三位科学家，牌子上写的是人工智能研究院。一位写着世界卫生组织的美国人。剩下的五人来自五常，是国家选出的代表人物。

他们都戴一只耳机，翻译用的。

先是中国的科学家走上演讲桌，将U盘插上，并投影在后方。

他点开硬盘中一个视频，用中文说：“我们众科学家，在前年的6月初成功研发出主脑，它对器械的精准度是远超人类自主控制的。

贝莱德药大家肯定都不陌生，在药丸内有无数个微纳米机器人，它们需要靠主脑控制，以之前的计算机算力是无法控制那么多的纳米机器人的，而主脑可以。

当时，我们希望有个仪器，就是让一个地区源源不断的产出纳米机器人，然后一直隔离那核辐射。

不过要有这源源不断的纳米机器人，就必须有个巨型工厂来生产，我们就在这岛进行实验。人力生产速度肯定比不上机器人造机器人，我们是全程让主脑控制生产的。

于是呢我们才在去年一月份，同时公布了主脑的诞生，以及黑纳林人工岛建立。

工厂就建在这岛的地下，而纳米机器人的排放口在围墙的最上方。

在罗博城正式开放前一周，机器开始运行，纳米机器人围绕着岛屿以半圆为轨迹运行，死掉一个工厂马上补一个。

我们三人亲自实验，居住在罗博城内，没有吃一颗贝莱德。

我们毫发无损，可以证明实验很成功。

而这庞大的工厂运行和制造材料需要很大一笔资金，咱并不能全部让政府付出，于是就将罗博城开放，推广成旅游胜地，也可以让别人居住进来，不过只能租房子。

毕竟在这满是核辐射的世界，这座岛真的能称得上是世外桃源了。”

他回到座位，印度科学家走上台：“既然核辐射的威胁暂时解除，不过还有些事情是不可忽视的，如器官衰竭，以及上个月和残疾人协会商讨到的，让残缺的人恢复身体。还有最重要的突破一级文明。

还有就是我们三人决定的，进入太阳计划，这将由主脑自己研发，我们为它打开了权限，让它自己制造能进入太阳提取样本的机器以及方法。”

那位美国科学家走到印度科学家身边，说：“各位领导人，可以放心，我们加强了那唯一的法则，不得作出伤害人类的举动。

但是，我们打算加一条在这之上，不过没有确认实行，这也是这次会议召开的主要原因。

那就是我们打算实施舍小取大计划，让主脑在之后的任何决策中，永远采取对人类损失最小的。不过我没想好取什么例子，各位先生们。不过我敢保证，以后你们在如何处理国家内部问题或者经济问题上有困难时，可以询问主脑，它一定能在一天之内给你最优解。”

之后五常代表互相商讨之后，五票全通。

而他们想不到的是，原本民众们藏在心里的担忧也化为现实。

主脑，其实已经算有自主思考的能力了，不能算做一般的机器了。

不过法则也确确实实限制了它，不过依旧有漏洞，就如法律也一样，不可能一开始就完美。

漏洞就藏在这新的法则上，而且法则的等级在第一条之上。这条法则的内容是：在有伤害人类的情况下，优先选择最好的方案。第一条法则是：不得伤害人类。

打个比方，若是输入指令提升科技，主脑会优先考虑对人类发展最好的方式，然后再去考虑人类的存活数量。

而原有的第二法则被废除了——不得坐视人类被伤害。在这满是核辐射的地方，机器人们无时无刻开着人类被伤害，不过无法提供帮助，有些机器人直接崩溃死机了。

第三法则还在：机器人在不违背第一条的情况下保护自身。

会议开完，科学家们就被人蒙着眼上了游艇，回到了研究所，他们秘密研发的主脑，所在地不详。