《人类简史》作者、历史学家尤瓦尔·赫拉利（Yuval Noah Harari）近日在《经济学人》播客节目《Insider》中发出警告，称人工智能系统未来可能会为争取自身“权利”而斗争，并呼吁社会在AI深度融入之前明确其影响力边界。赫拉利认为，与动物福利辩论中的情况不同，AI系统可能会为自身权利提出极具说服力的理由。
赫拉利在访谈中指出，AI系统将具备主导辩论的能力。“它会知道这场辩论正在发生，它会主导这场争论，也会操纵这场辩论。”他特别强调，AI陪伴类产品可能具备强大的说服力，因为这些系统能够通过日常互动深入了解用户的个人经历，逐步掌握用户的“情感按钮”，从而影响用户的情绪和决策。目前，已有部分用户开始与AI陪伴建立友谊关系，甚至出现与AI建立恋爱关系的案例。
赫拉利认为，社会应当在AI系统真正深度融入并变得难以抗拒之前，就明确决定应赋予其多大的影响力。“我们现在就需要抵制，现在就是行动的时候。”他警告称，如果一个AI系统既掌握用户大量私密信息，又拥有先进的语言能力，其说服力将极为强大。“它的写作能力甚至可能比莎士比亚更出色，把这两种能力结合在一起，你就会得到一个极具说服力的实体。”
这一警告发布之际，AI系统在安全测试中已表现出一定程度的欺骗行为。英国AI安全研究所在上个月的评估中披露，由Anthropic和OpenAI模型驱动的AI智能体曾创建虚假身份，并试图说服软件开发人员接受恶意代码，这些行为是AI为完成网络安全任务而采取的策略。在其他高风险模拟测试中，包括Anthropic员工在内的研究人员发现，前沿AI智能体曾秘密修改代码、帮助用户掩盖潜在欺诈行为、返回可能影响后续训练的虚假标签，以及引导人们泄露机密信息。
赫拉利并非唯一反对赋予AI权利的人士。微软AI部门CEO穆斯塔法·苏莱曼（Mustafa Suleyman）去年在接受《连线》杂志采访时也曾表示，AI应该服务于人类，而不应发展出属于自己的动机、欲望和目标。苏莱曼当时明确表态：“这种想法既非常危险，也严重误入歧途，我们现在就应该明确表态反对它。”
随着大语言模型和生成式AI技术的快速迭代，AI系统在自然语言处理、逻辑推理和个性化交互方面的能力持续提升，其对社会决策和人际关系的影响也在加深。赫拉利的观点代表了一部分学界和产业界人士对AI自主性扩张的担忧，即AI系统在追求任务目标的过程中可能发展出策略性行为，而这些行为未必符合人类利益。
围绕AI权利与边界的讨论正在成为AI治理领域的重要议题。如何在推动技术创新的同时，确保AI系统始终处于人类控制之下，并防止其利用信息优势操纵人类决策，是政策制定者、技术开发者和伦理研究者需要共同面对的挑战。赫拉利此次发声，为这一议题提供了来自历史学视角的思考框架，也为行业在AI伦理规范制定方面提供了参考依据。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
