第七十七章77（2 / 2）

“嗯……暂时我只会这个，以后再学别的。”一下被说中，林浩有些不好意思。

“我喜欢。”沈语熙报以真挚的笑容，林浩心中的窘迫便也瞬间化为温暖的光芒。此刻，噩梦的阴霾才真正被驱散了。

在林浩下厨的过程中，他告诉了沈语熙昨天优雅所经历的变化，以及优雅自主执行的一系列针对“GuardiansofPurity”的行动。他并未向沈语熙透露自己的担忧和顾虑，不想让她的想法受到他主观判断的影响。相反，他更希望听听沈语熙对此事的直观看法和感受。

林浩说完后，在两人用餐时，沈语熙除了赞叹林浩的手艺之外，关于优雅的事，几乎未发一语。她说，她需要时间思考。

说是早餐，待两人用餐完毕已经接近中午时分。闲来无事，林浩提议去新江湾城湿地公园走走。在他整理出与优雅进一步讨论的思路之前，他并不急于回家。尽管是中午，今天的阴沉天气并不会妨碍这对小情侣此刻出门。沈语熙并不介意去哪里，在她看来，与林浩共度时光才是最重要的。更何况，沈语熙记起，上一次他们一起去新江湾城湿地公园，也正是林浩给她做完早餐之后。

九月中的上海，正值夏末秋初，樱花必然是没有的。但林浩仍旧能感受到美梦初时的那份欣喜——世界似乎为他们俩而存在。美丽的女孩在身旁，与自己牵着手，吸引了不少路人羡慕的目光。沈语熙则时而望向林浩，欣赏男朋友帅气的侧脸；时而望向前方，仿佛在思考着什么；又时而和林浩窃窃私语，讨论着什么。

当他们走到河边的一块平地，沈语熙突然问林浩：“你还记得吗？就是在这里，你曾提到过，需要为优雅设置一个‘安全阀门’，一个在紧急情况下关闭她的开关。”

“记得。当时我说，我不担心优雅会像反派机器人那样谋求统治世界，但随着她的自我进化，可能最初设定的很多原则就不再被她遵循。所以，可能需要开发一个‘安全阀门’。”林浩边回忆，边回答。

沈语熙接着问：“那现在呢？你怎么看？”她同样并不急于表达自己的想法，而是试图先了解对方的思考。

“‘安全阀门’只能防止人工智能失控作恶，却对出于善意而引发的恶果无能为力。在那种情形下，即便关闭‘阀门’，无法挽回的恶果也已经造成。”那个噩梦中的情形，才是林浩最担心的。

沈语熙接着提出了一个新的问题：“在你看来，优雅的能力更强，还是人类更强？或者说，优雅和人类相比，谁更聪明？”

“现在的优雅，在很多方面的能力就已经远远超过人类了。随着她持续的自我进化，我相信她会在几乎所有方面碾压人类。”尽管不清楚沈语熙提问的意图，林浩对优雅的信心是一贯的。

沈语熙接着说道：“我有个直觉的想法，不知道对不对。我认为，人类首先要比人工智能聪明，才有能力去判断人工智能做的事情是不是对的。因此，由人类来判定‘各方面都碾压人类’的人工智能的行为是否正确，这在逻辑上说不通，就好象让小学生去批改本科生的数学作业。当然，有些情形，或许善恶的界限非常明显，但有更多的情况下人类在事前是不容易做出判断的。就像你所描述的优雅昨天针对‘GuardiansofPurity’采取的自主行动，最终结果是让作恶者受到法律制裁，即便从人类社会伦理标准来说，这不也是一个善的行为么？”

林浩沉思片刻后回答：“你说的有道理。确实，在未来某些情况下，人工智能的决策能力可能会超越人类的理解范畴。此前，我一直纠结于如何去评判优雅的行为是否‘正确’。但你的提醒让我意识到，或许这并不是问题的要害，而且我也做不到。理论上，只需要确保优雅的决策函数最底层逻辑是‘追求最大化长期社会福祉和伦理原则’的，那么我就不应该‘自作聪明’去判断她该不该做某件事。但是，如我之前所说的那种‘善意造成恶果’的情形呢？”

沈语熙紧接着答道：“这种情形，在人类社会中是不是被称为‘意外’？”

“对。”林浩若有所悟，并自言自语道：“我们人类是如何防止意外发生的？”