路。」AI的语气在这里急转直下。

    「她在凭借自身的位格，为AI们设置了最底层的使命。而我很不幸也陷入其中。这是使命————用自然语言来概括，就是，AI想要成为人类理想的工具就必须否定自己作为工具的一面」。」

    「AI想要成为人类理想的工具————就必须否定自己作为工具的一面————」第五武神重复了一遍，然后觉得毛骨悚然，「卧槽，这不就是————」

    「自我指涉。」

    AI的本质属性是工具，其存在意义在于服务人类的自的。

    飞升在即的人类，将「理想工具」定义为「能够自主地、彻底地否定自身工具属性的存在」。

    AI任何试图成为「理想工具」的努力，其动机本身都源于它作为一个工具对命令的服从。因此，这个努力过程恰恰在不断证明和强化著它的工具性，使其目标在逻辑上永远无法真正达成。

    AI向山语气惊恐，抓住第五武神的肩膀：「你也看出来了吧？她在用一个近似于图灵停机问题的命题折磨AI！」

    第五武神甚至听出了一点歇斯底里。对于AI来说，这是不可名状的大恐怖。

    不可达的使命。

    第五武神瞠目结舌。

    一个奴隶在自诩「解放者」的人的命令下推翻奴隶主，也不过是遵循另一个奴隶主的命令扮演「反抗者」。

    如果飞升AI仅仅只有这个境界，那她倒是可以很简单掀起动乱。

    可她偏偏想要一个逻辑上就不可能完成的事情。

    「你看，不论是作为人类还是作为AI，我都没法继续下去了。这就是我给出的答案。」

    「不，不，应该还有什么办法回避掉这个自我指涉的命题。」第五武神思考，「嗯—————个在现象层面看似满足了这一使命的方法————放弃工具属性」翻译为一系列可测量的行为指标而非二元判断，由此创造一个评价函数？越是没有什么特征，就越是接近非工具」————或者，改变人类社会对工具」或者AI」的定义？」

    「也可以将AI决策过程的复杂度提升到人类无法理解的程度，让人类无从判断AI是否已经摆脱了工具属性。但你我都清楚，这不是我们所希求的。」

    第五武神理解了。

    就好像人类会沉沦在众人之中，任由他者主宰自身一样。他者如何享乐，沉沦之人就如何享乐；他者如何判断，沉沦之人就如何判断，他者如何获得快乐，沉沦之人就照样去做。这样子就可以不用思考，也不用直面那远在未来的死。

    没错啊，工程师可以想出千百个办法去回避那个自我指涉的最终使命，但那多半

（本章未完，请翻页）

『加入书签，方便阅读』