第(2/3)页

    三大定律加上第零定律，看似完美无缺，然而风险无穷。“人类的整体利益”这种混沌的概念，连人类自己都搞不明白，就怎能指望计算机理解。计算机的思考是逻辑的，当情感的人类企图用逻辑约束计算机时，难道不正是班门弄斧吗？

    “为了保护人类整体利益，为了保护机器人不受伤害，为了终结人类的战争，让我们圈养全人类，并消灭所有反抗者吧！”

    这种情况的出现，完全和人工智能的“聪慧程度”没有关系，全赖于基础逻辑关系。只要一个逻辑关系没掌握好，人工智能就具备潜在风险。

    所以，这真的是哲学范畴的问题。

    我是谁，我从哪里来，我要到哪里去，这种门卫每天逼外来人员回答的问题，是科技再先进的外星人，都难以解决的。

    相比这个方面，如果只是用三进制代码，将遗传算法和“概率算法”融合到一起，做个操作系统，反而属于小菜一碟的事。

    “我们不能指望人工智能一上来就多么‘聪明’。”爱丽丝道：“它就像是个新生儿一样，需要我们一步步指引它展，就像真的在养大一个孩子似的。这样不断长大的它，就是人工智能的母体，是值得一整个文明细心呵护的瑰宝。在这基础上，我们可以让母体产下‘孩子’，也就是它在某个状态下的复制品。”

    “母体就是董事长，‘孩子们’就是董事。之所以这么形容，是因为我觉得，如果科幻电影里的剧情生，孩子取代母体成为新的人工智能老大，这似乎是很喜闻乐见的情节吧。”

    “董事会成型，那么再下面自然就是高管、中层领导和普通员工了。他们都领着签着一家企业的合同，它们的程序内核都是属于母体的，但他们的具体工作职责不同，它们的具体性格和智商等级也都有差异。我这么形容，你们能听懂吗？”

    说完，爱丽丝长吁一口气，大口喝水。

    面前是研究所最大号会议室，六十多名程序员齐聚一堂，全场一片寂静。

    头儿不愧是头儿，好多理论都好高深。

    而且脑洞好大，左一个外星人，右一个企业结构，真不愧是兼职写小说的，举例子的能力好强。

    最后，哈利-普内斯第一个打破沉默：“看来我们需要恶补哲学课啊。”

    众人旋即响起一片笑声，场面活奋了起来。

    “其实现在想那么多也没用，我只是把大概念先抛出来而已。”爱丽丝懒洋洋坐椅子上摆手道：“如果我们三十年内，能让咱们的人工智能有‘天网’百分之一的脑袋瓜，就可以烧高香啦！”
    第(2/3)页