第六十二章62（2 / 2）

“是的，没有一丝头绪。很多年没有面临过这种情形了。”林浩叹了口气，“通常的基于深度学习的人工智能模型，就像一个黑箱，我们或许还能用某些技术手段在其上打开一个小口略窥一二。但ENICA的模型，更像是一个……”他思索了片刻，“一个深不可测的深渊。连优雅都没有任何思路。”

“确实，对于ENICA模型决策的可解释性，目前我也难以提供一个切实可行的技术建议。”优雅附和道。

“林浩，”沈语熙接着道，“我们在调试程序错误时，通常都会在程序运行过程中生成日志。通过阅读日志，我们就可以了解程序的执行情况，定位到具体出现问题的那一步。因此，日志也可以看作是对程序的解释吧？”

“当然。”林浩点了点头，“模型在运行时，也会根据我们的调试要求，生成日志。但这些日志并未详细到可以解释决策的程度，也远远达不到合规要求。”

“嗯，我不是这方面的专家。我只是在考虑，是不是有可能把日志细化到很高的程度？比如，在模型做出决策时，让神经网络中的每一个神经元，都生成自己的日志。”经过这段日子的学习，沈语熙已经具备了相当程度的人工智能领域的技术知识。

林浩边听边思考着沈语熙的话，跟随着她的思路：“理论上是可以的。但是像‘萤火虫’这样的模型，神经元数量达到万亿级别。对于如此巨量的数据，即便ENICA技术能够大幅压缩和存储，它们对于人类来说也是不可解读的，对于合规来说没什么用……”

说到这里，林浩的话语停滞了片刻，但他并未停止思考，而是捕捉到自己刚才说出口的“对于人类来说……”。突然，他的目光一亮，兴奋地跳了起来，情不自禁地握住了沈语熙的手，激动地说：“沈语熙，谢谢你，你给出了一个极佳的思路！”

沈语熙起先被他这突如其来的举动吓了一跳，随后意识到，林浩或许已经想到了办法。自从她上次在孟凡的地下室被林浩解救的那一刻，她和他拥抱过后，虽然两人之间关系更近了，但再没有过身体接触。此刻，她的手被他握着，低头脸红，心跳加速，陷入了短暂的失神。她还没来得及思考，林浩已经想到了什么。

片刻后，她听到林浩询问优雅：“优雅，如果让‘萤火虫’自己来解读这些巨量的日志，并最终作出人类能够理解的解释，你觉得可行吗？”

“确实可行。”优雅给出了肯定的回答，“不过，生成和解读如此庞大的日志会显著影响‘萤火虫’的运行效率。我的初步估算显示，性能可能会降低约百分之五十。”

林浩迅速地做了些计算，然后说：“根据初步测试，ENICA为‘萤火虫2.0’带来了超过一百二十倍的性能提升，即便因为透明性合规而牺牲百分之五十的性能，相比‘萤火虫1.0’仍然有近六十倍的性能提升。这完全满足了我们的需求。”林浩有些庆幸，自己在新闻发布会上，保守地只说了“五十倍”这个数字。

让人工智能自己来解释自己，以达成透明性合规。林浩在沈语熙的启发下，终于在立秋的这天，找到了解决问题的方向。