这无疑是一个看起来很美好的目标。它寄希望于在意图和价值观方面对人工智能进行“类人驯化”，以使其达到从意义上理解人类行为和选择并予以遵从的目的。简单来说，就是使建立在庞大的、多元化数据集基础上的大模型预训练结果既合法又合乎道德。从业界在这方面的努力来看，2023年7月，AIGC的领军企业OpenAI宣布成立一个新的AI对齐团队，这个超级对齐团队（superalignment）的目标是在4年内让超级AI系统实现价值对齐和安全。为此，OpenAI承诺将投入20%的计算资源用于对齐超级智能，而项目的核心则是训练出一个大致与人类智识水平相当的AI自动对齐研究员，再借助自动对齐研究员找出对齐超级智能的方法。除此之外，谷歌、微软等公司也都纷纷跟进，成立了类似团队，将价值对齐作为寻求人工智能安全性和一致性的重要途径之一。一时之间，价值对齐的口号风头无两。在技术的原初设定中，价值对齐作为一种人工智能治理方法，彰显的是技术设计者企图通过人类价值嵌入机器体系的方式获得更加可靠的人工智能产品的信心。然而，在面对技术-社会的复杂互动关系时，价值对齐却无法真正有效付诸实践。一方面，潜藏于价值对齐背后的人类中心主义的控制幻想假设了一种以人类现有道德水平和认知为基准的整体性解决方案，坚信人类所形成的价值体系和原则足以为人工智能技术的发展植入更好的目标和原则。这无疑是一种人类在面对人工智能时的“造物主式”的傲慢。另一方面，围绕着价值观差异所引发的冲突、斗争等长久地存在于人类社会发展始终，历史性和多元性构成了价值观本身的特质。那么，在面对人工智能的治理问题时，人类何以能够空前地达成一种价值观念上的统一并将其附加于人工智能之中？如若不能，一种更加危险的趋势或许正酝酿于价值对齐的设计之中：人工智能技术的掌握者是否会以特定的价值实现对AI的“对齐”，进而诱使无所不在的人工智能产品以技术无意识的方式实现对人类群体的普遍性对齐？在大模型技术狂飙突进的今天，随着数据规模和算力的不断提高，以及模型调整对于场景-价值多元化的适应，人工智能的性能持续跃迁，涌现不再是偶发的技术意外，数智应用的泛化性、通用性和界面友好性都有了质的提升，成为架构人类社会发展当之无愧的技术基底。如何建设安全有效的数智设备，避免人工智能因其自身的技术特征或外在原因的滥用产生危及人类的后果，已成为AI行业研发和应用过程中的核心议题之一。一方面，数智技术的全面嵌入和良好的交互性使得用户对人工智能的期许和信任度不断推高；另一方面，可解释性陷阱的存在以及技术-社会两者发展逻辑在本质上的异质性使得“AI威胁论”从未真正消失，对AI可能带来的风险和挑战进行防范的研究方向之一就是探索引导和操控“超智能”AI系统的新方法。其中的一种路径就是通过价值对齐的方式确保人工智能追求与人类价值观相适配的目标，敦促AI以对人类和社会有益的方式行事，不侵害人类的价值和权利。