OpenAI超级对齐团队的解散为价值对齐问题的解决提供了另外一种思路：与其着眼于现有大模型的价值对齐，既需要面对价值本身的复杂性及其与人工智能性能的张力问题，还需要面对下游风险加剧的问题，不如专注于AI更多的可能性与开放式人机生态体系的打造，通过有效的人机交互与环境感知，鼓励开发与人类处于更广泛的目的分享和责任分担的人工智能。吴冠军在分析Midjourney的风险防控时，也谈到：“过滤”的非持续有效性，可以通过互动机制改善识别——“在互动过程中，我们需要探寻可能存在的突破点或‘短路’机制，识别用于切入并可能导致系统无法完全过滤此类信息的入口。这揭示了世界的复杂性和趣味性。”于2023年9月成立的法国生成式人工智能委员会在2024年3月向政府提交的新时期法国人工智能发展建议报告中特别提到，开放性是人工智能发展的基础。报告指出必须从技术开发和市场开放两方面预防所可能导致的集中化风险，支持多元主体之间的竞争。无论是应对人类社会的复杂性，还是防范由技术所导致的任何形式垄断，开放性都是极为核心的一个维度。这就如同拉图尔所强调的行动者穿梭于其间的“网络”概念，而人工智能也正是这些行动者之一。与此相对，拉图尔则认为，在这种二元论影响下，科学事实被视为已经完成的封闭系统，成为真理、进步、普遍、理性的象征，摆脱了与文化的纠缠，更超越了地方性情境，从而获得了普遍的客观性。而“社会”或“政治”“文化”因素则成为科学之外的含混话语，代表了某种难以言明的前现代传统中的复杂性，从而使自然与文化之间的不对称性转变成为过去与将来之间的不对称性。然而，这种二元划分并非恒定不变。一方面，它实际上是以现代性为基础的近代科学体系的一个假象，并最终在控制论的意义上导致了科学意识形态的出现。拉图尔指出，将自然作为研究对象的近现代科学实验体系以其方法为自然对象赋予了客观性，使其成为具有超验性的象征符号，进而反证了科学的理性基础，形成了论证的循环。另一方面，社会的超越性同样也是被预设的，因为只有这样，它才能获得作为整体的合法性基础，从而发挥作用。这种二分法的结果导致了自然还原主义或社会还原主义。其实，对这种还原主义的批判并非始自拉图尔。20世纪70年代的爱丁堡学派就提出了强纲领和“利益解释”模型，主张科学知识在本质上是由社会建构而成的，从而形成了“科学知识社会学”；同时，该学派反对实证主义和基础主义，将科学视为一种文化实践的场域和结果，反对还原主义的阐释路径。他们所提出的“对称性原理”，主张将据信正确的或错误的表述同等对待，即对所谓客观和非客观的解释都持中立态度，并根据其社会影响予以对称分析。印度比拉理工学院的机器人模拟专家阿卡普拉沃·包米克在谈到具有自主性的AI智能体设计需要遵循的原则时，特别强调了只有从具身认知的特性、而不是抽象的人机对立原则出发才能有所突破。由于认知本身是基于同智能体自身所处的环境之间的交互而形成的，它首先具有情境性，并且这种情境性认知会建立起一个随着时间压力而推进的连续的进化响应，从而动态地生成适合于情境的价值判断或行动。这种认知模型本身不具有泛化扩展性，因此只能以环境反馈的方式进行补偿，而无法“完全形成对相关行为的系统响应”。这也就解释了为什么Gemini的研发团队在试图纠正训练数据集的数据分布不均衡所导致的种族主义偏差时，为什么会引发更显而易见的错误。它同时也导向了一个价值对齐的拥护者们容易回避的问题：对齐行为的效果并不如器官移植一般理想，它更像是基因修改，其下游的风险难以预测。因为“被设计的伦理/价值”在何种意义上可以与持续性的智能体-环境交互系统始终保持自洽，这本身就是一个需要证明的命题。与现实情境中的价值多元相对应，其实并不存在抽象的有益于“人类”的唯一价值。特定的价值总是使一些人受益而损害另外一些人的利益。每一个具体的价值判断都依赖于上下文信息和在不同的规范性领域（如道德、习俗、认知和政治）进行协调行动的技巧，而不是某种作为标准方案的规范性的“对齐”。“没有什么可以保证标准解决方案所呼吁的建立只重视人类的人工智能的普遍政策得到普遍实施。在一个利益竞争和许多坏行为者的混乱世界里，标准的解决方案看起来像是一种冰冷的安慰”。“对齐”的设想更接近波普尔所批评的社会改造的“乌托邦策略”，只不过这一次是赛博属性的，它以维护理想价值原则作为控制论的首要原则，从而必然导致实践中的教条主义和独断论。而且，对首要原则和总体策略的任何质疑，都有可能导致颠覆性的结果；使得哪怕是技术性的纠错，都要耗费巨大的社会成本（尤其考虑到数字技术和人工智能的普及），甚至是彻底失败。

人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉

「活动」首次登录送19元红包

94.16MB

版本V3.4.8

下载APK 高速下载

下载强奸乱伦伊人网安装你想要的应用更方便更快捷发现更多

36%好评(47人)

详细信息

软件大小: 44.22MB
最后更新: 2025-01-18 20:10:44
最新版本: alpha4.5.2
文件格式: apk
应用分类:ios-Android japonensisjavafree
使用语言: 中文
: 需要联网
系统要求: 5.41以上

应用介绍

一，欧洲人物动物交互视觉，小逼国特级黄片
二，丝袜美腿强奸乱伦经典三级，www.987hh.com
三，小柔涂了春药被一群人轮，少妇一级婬片免费放卤菜怎么做
四，CHINSES中国女人CHINSES，中国老女人日屄视频
五，忘穿内衣被同桌玩奶头，破处操逼网站
六，岳洗澡故意给我看，禁欲校草被C哭BL
七，操小骚逼182p，JIZZJIZZJIZZ中国熟妇高清
【联系我们】
客服热线：135-2881-646

加载更多

版本更新

V7.6.5

韩国裸体绝色美女网站