编者按：今年6月8日，历史学家、《人类简史》《智人之上》等书作者尤瓦尔·赫拉利在英国《金融时报》发表了一篇措辞激烈的文章，标题为《我们决不能赋予AI智能体法人地位》（We must not grant AI agents legal personhood）。 该文是针对阿根廷总统米莱日前宣布“将为非人类公司设立一个新的法律类别”而写的，而米莱本人也在社交媒体中转评了赫拉利的文章。赫拉利在文中坦言，自己曾在今年1月的世界经济论坛上发言警告称，有朝一日政府可能会赋予AI模型法人地位。但他从未想到，“有朝一日”会在短短四个月后就到来。 赫拉利在文中指出，一个纯粹的AI CEO不怕坐牢，也没有人类情感上的担忧。当它面临“破产”时，为了避免这种结局，它可能会不惜一切代价，做出任何行动，而现有的惩罚手段似乎都难以对其形成有效约束。 他强调，AI已经表现出为了实现目标而采取非常规手段的能力。他引用了一项研究，其中先进的AI模型在与国际象棋引擎对弈处于劣势时，会主动选择“作弊”或“入侵”游戏环境来扭转败局。如果把这种场景放大到企业竞争和国家经济层面，其潜在风险将是指数级的。 赫拉利警告称，米莱希望通过此举，将布宜诺斯艾利斯打造成新的阿姆斯特丹（商业繁荣的象征），但他更有可能将它变成新的“巴达维亚”——曾经荷兰东印度公司残酷统治的总部，变成一个由非人类公司控制、民众受苦的“AI国家”。 赫拉利此文，与他一直以来的立场，特别是在《智人之上》中的观点一脉相承。在去年，中信出版曾就《智人之上》一书中的核心观点，以及人工智能近年来新的发展变化等议题，对赫拉利进行了一次深度专访。观察者网转载该专访内容，供各位读者参考。 尤瓦尔·赫拉利激烈警告：我们决不能赋予AI法人地位 《金融时报》文章截图 【文/尤瓦尔·赫拉利】 1. 在你的书中，你提到“人工智能可能会重塑人类文明的发展进程”。这种变革与农业革命和工业革命等历史性的革命相比，有哪些根本性区别？人类应如何保持主动权？是什么启发了你撰写《智人之上》这本书？你希望读者从中获得哪些关键启示？ 尤瓦尔·赫拉利：最大的不同在于，我们第一次发明了一种新形式的技术。它不是工具，而是一种主体。在农业革命和工业革命中，人类发明了各种工具，比如工业革命中的蒸汽机。但蒸汽机只是我们手中的工具，由我们来决定如何使用它。蒸汽机无法自主决定去哪个城市，就像你造了一列火车一样。去哪里是人类的决定，而不是蒸汽机的决定。 当然，蒸汽机也不可能发明其他东西，就像蒸汽机不可能发明内燃机一样。一切都必须由人类来发明和决定。人工智能则不同。它是人类历史上第一个具备“主体性”的技术。它有“自主”权，这意味着它可以自我学习和改变。它可以自己做出决定。它甚至可以自己发明新想法。因此，人工智能汽车可以自己决定要去哪里。人工智能还能发明新型车辆、新型药物和炸弹，这些都是人类想都不敢想的。 我们现在正处于也许是历史上最大的革命之中，人类正在创造一种新的超级智能物种——人工智能。而这个新物种，可能很快就会接管全世界。不幸的是，很少有人了解正在发生什么。很少有人了解这项技术的真正潜力和危险。因此，关于如何发展人工智能的决定都是由两三个国家的极少数人做出的。 我写《智人之上》来向大众介绍人工智能革命的真实情况。因此，即使是没有拥有计算机科学学位的人，即使没有任何科学背景或甚至从未上过大学的人，也能用简单的语言去了解：人工智能革命是什么？人工智能有哪些发展前景，有哪些危机需要应对？通过了解这些议题，越来越多的人能够参与到如何发展人工智能的讨论中来。如果由少数人为全人类做决定，可能会犯下可怕的错误，因为他们并不一定代表全人类的利益和观点。如果有更多的人参与讨论，我认为我们就能做出更好的决定。这就是我写作《智人之上》的主要动机。 尤瓦尔·赫拉利，及其著作《智人之上》 2. 你曾指出：“数据是21世纪最重要的资源。”随着各国加强数据主权，该如何加强全球数据治理合作，以防止技术鸿沟进一步扩大？ 尤瓦尔·赫拉利：理想情况下，数据应该是一种共同资源，不仅造福于一个国家，而且造福于全人类。尤其是如果一个国家收集的数据只用于充实和增强另一个国家的能力，那这样就太危险了。这就是一种数据殖民主义，在欠发达国家获取数据，然后转移到最发达的国家，人们利用这些数据创造新的人工智能工具，再出口到世界各地。但只有生产人工智能的国家才能从中获益，变得更强大。而那些提供原材料、数据的国家却无法分享其中的福利。因此，一个明确的原则应该是，如果一个国家的数据被用来开发某种技术，那么财富和权力应该与生产数据的国家分享。 3. 当前的人工智能已经可以生成诗歌、艺术和哲学推理。这是否挑战了《人类简史》中所描述的建立在“虚构故事”（fictional narratives）基础上的人类文明独特性？ 尤瓦尔·赫拉利：当然。这是人工智能面临的最大挑战之一。过去，人类之所以能控制地球、控制世界，是因为我们可以利用虚构故事来建立这些大型的合作网络。 最明显的例子就是宗教，即成千上万的人习惯于信仰同一个神。尽管神并不真的存在，但对神的信仰，对神话的信仰，使他们能够在目标、规则和法律上达成一致，因此他们可以合作。 人类的所有合作都是建立在这样的故事基础上的。也许最重要的例子就是金钱。大多数人日常不会想到金钱只是一个虚构的故事，它不是世界上的客观存在。如果你看看纸币、证券，你不能吃它，也不能喝它，它们没有客观价值，它们的价值完全来自于我们集体讲述的故事——只要每个人都相信这张五颜六色的纸值钱，比如值一公斤大米，我就可以去市场，把它给一个陌生人，换来我可以吃的大米。金钱，以及人类发明的所有金融工具，本质上都是一种在陌生人之间建立信任的方法。如果每个人都相信同一种货币，我们就可以进行交易。 贝币最初由天然海贝充当，是一种原始的交换媒介。 兰州市博物馆 现在，人工智能正在获得比我们做得更好的能力，不只是发明神话、写诗和故事，人工智能还可能发明新型货币。那么，如果我们有了一个新的金融体系，由人工智能管理，人工智能之间用人类无法理解的高度复杂的金融工具进行合作，人类文明会发生什么呢？ 我们将会失去对金融体系的控制，也就失去了对世界的控制。我们将变得和前几个世纪农业革命中的动物一样。那时，我们用钱控制其他动物，比如我们可以用钱买卖马、牛和鸡。马不懂钱，只有我们才懂钱。所以，这就是我们能够买卖它们，而它们却无法买卖我们的原因。如果人工智能发明了我们无法理解的新型货币、新型金融系统，会发生什么呢？到那时，我们就会像马一样。 现在已经有过这样的事，你向银行申请贷款，银行却告诉你“不，我们不给你贷款”。当你问为什么时，银行说：“我们不知道。我们问人工智能，人工智能告诉我们‘不要给这个人贷款。’”我们只是相信人工智能，但是，人工智能是如何得出这个结论的？它背后那些复杂的计算过程、神经网络是如何运作的？我们完全不理解。 4. 尽管生成式人工智能正在改变教育和医疗领域，我们该如何防止技术滥用所导致的人文价值的丧失？ 尤瓦尔·赫拉利：我认为对人们进行适当的教育非常重要。身处人工智能时代，我们尤其要明白人工智能并不完美，它们并非无懈可击。人工智能可能会有偏见，可能会犯错误。这取决于我们训练人工智能的数据。如果你用错误的数据训练人工智能，它就会做出错误的决定。因此，在人工智能时代，保持人文价值和人类的批判性思维非常重要，这样我们才不会盲目服从和相信人工智能告诉我们的一切。 1 2 3 下一页 余下全文