谈到价值对齐，就不得不提到另一个稍显生硬却更为直接地表达了某种意义上人机对立的概念：价值嵌入。从本质层面来看，这两个概念都是基于“对立论”的视角，强调数字技术自身的运行和发展所具有的超强自治性，强调人工智能技术与人类权利和福祉之间的对立和冲突，希望通过算法伦理审查、增加数据离散度以及预训练模型微调的技术方式，将具有特定人类价值倾向的立场和原则“移植”到智能设备中，从而最大限度地预防和消解技术理性与社会理性的差异所导致的风险和负面效应。在这里，人工智能被设想成了和人类智能处于对立位置的价值中空物，它被作为实体从技术的第三持存中剥离出来，评论者丝毫没有意识到人工智能技术的任何具体化形式，本身已经负载着人类智性积累及其社会文化内涵。 从根本上而言，具身智能就是让人工智能获得“身体”——它不是指形式上的身体，而是具备感性经验获得能力的身体。正如人类的认知是基于对感官所获得的信息进行加工的过程一样，具身智能的发展思路是试图帮助人工智能从对情境的实时交互中形成符号理解的过程，它是将认知置于环境中，形成连续的进化响应的过程。简单地讲，具身人工智能将不再像传统人工智能那样对相关条件和行为进行对应反应，而是和人类理解世界的方式类似，通过传感设备获得的第一手环境信息（声音、影像、触觉、温度甚至表情等），建立起实时、动态的完整符号模型。其认知和理解不再是“离线”式的，而是满足时间压力的持续交互状态。这种心智仿真结构所形成的智能体将是一个与情境不可分离的开放网络。 所谓的人工智能的“奇点”的到来，在很大程度上反映了人类在自己的创造物的强大性能面前的不安。如果说在前智能时代，机器技术体系在力量、复杂性、精密度方面的超越还只是局部功能的增强，不足以引起人对引以为傲的本质——思考/理性的担忧，那么生成式人工智能在知识生产、理性设计、语义逻辑乃至可以带有情绪性表达的自然语言处理方面展现出来的卓绝能力让作为创造者的人类在内心再一次感受到了新版的“机器人威胁论”——AI威胁论。对可能失去控制的担忧让设计者期待以某种方式重新赢回决定权，于是，人工智能设计和治理又一次处在更深的“恐惑谷”的悖论境地：一方面，整个人工智能的发展过程一直以类人性作为超人性的基础，从任务实现到输出方式、到理解能力都希望有明确的可解释性、与人类保持一致性，哪怕在外观的设计上也从未放弃过“人形智能机”的设想；另一方面，这种类人性和超人性发展得越好，人类自身就越恐慌，尤其当最新的生成式人工智能突破了“波兰尼困境”，在多模态知识生产上已经可以依赖网络文本数据库和大模型技术实现自我生产的时候，不但人类心理上的恐慌越发严重，治理过程中所面临的风险也更加多元化和强化。抵抗不安感的最好武器是规范性。价值对齐的目标正是以建构规范性价值倾向来实现人工智能治理。然而，这里仍然存在另一个悖论，即“算法的价值倾向性越小，其越多以功能服务模式体现为满足单一确定目标的中立性工具职能，并因此只涉及线性且结果导向的治理要求；算法价值倾向性越大，其越多以画像评价模式体现为针对不同目标进行选择排序以作出价值性评估”。可见，价值倾向度的增加在一定程度上与功能的通用性之间呈现出反向趋势。因此，到底有没有可能以规范性的总体策略解决多元化的风险，并没有肯定的答案。比起价值嵌入，尽管价值对齐的措辞稍显缓和，但它依旧遵循了以人类社会取向干预或改造人工智能技术的规范性塑造路径。对于这一方法，“既有的技术治理史表明，总体策略在现实中并非没有人坚持，事实上不少技治主义者的头脑中均带有总体主义的主观性，但结果在实践中收获的均为局部和具体的技治推进，根本没有实现过各个微小技治系统的完全统一协作。从这个意义上，可以说总体策略均以失败告终”。或者，更简单地说，算法治理的目的和结果都不是简单地价值对齐，它需要重新衡量技术实现和应用中的具体问题。因为所谓的价值对齐，并不是通过增加价值矢量和奖惩指数就可以实现的，它涉及到数据爬取和清洗、算法设计和测试，到应用场景的每一个细节，并且它和技术算力之间也不完全是正向关系。例如，“在使用RLHF（reinforcement learning with human feedback，基于人类反馈的强化学习）进行价值观对齐时，）对齐行为无形中为AI大模型的能力涌现戴上了‘紧箍咒’，）以牺牲模型能力的方式来换取价值观对齐” 。OpenAI超级对齐团队的解散就真实地反映了这种冲突的强度，团队负责人在后来发表的个人声明中一再强调由于公司将产品性能置于价值对齐之前，以至于团队获得的计算和数据资源并不足够。这说明，尽管价值对齐的结果和成效尚处于难以评估的状态，但其依赖于社会预测和强反馈以及偏好排序的控制论做法，本身就是在算力上缺乏执行的可靠基础。

该文章转自 海外网 ，如有异议，请发邮件至diguowang08@163.com。







责任编辑：何觅夏
版权声明：凡注有稿件来源为“人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉_人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉全文免费阅读”的稿件，均为尸怨攻略_人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉全文免费阅读版权稿件，转载必须注明来源为“人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉全文免费阅读网”。
您当前的位置 ： 中国化肥网 >> 新闻中心 >> 国内要闻

西北角西北角
中国甘肃网微信中国甘肃网微信
中国甘肃网微博中国甘肃网微博
微博甘肃微博甘肃
学习强国学习强国
今日头条号今日头条号
人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉
首页 > > 人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉
人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉

人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉

「活动」首次登录送19元红包

64.90MB
版本snapshot5.8.4
下载APK 高速下载
下载淫白丝校花安装你想要的应用 更方便 更快捷 发现更多
喜欢 20%好评(89人)
评论 55
人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉截图0 人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉截图1 人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉截图2 人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉截图3 人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉截图4
详细信息
  • 软件大小: 78.99MB
  • 最后更新: 2025-01-09 19:09:11
  • 最新版本: beta2.4.5
  • 文件格式: apk
  • 应用分类:ios-Android 把自己的尿灌进小受膀胱
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一，欧美骚逼水多，喷射66p
二，A片极品少妇高潮尖叫出水百度，嫩逼流水视频
三，明日花绮罗45部全集，荷兰少妇人体动态图片大全
四，あいりみく，高跟鞋吃屌摸逼淫叫
五，肏中国小屄视频，北岛玲隣のマンご饭在线看
六，两兄妹一起写作业一边C，好吊操av
七，18少妇X X OO，大奶美女啪啪高潮
【联系我们】
客服热线：135-2881-646
加载更多
版本更新
V5.9.6
美女奶子猛操

人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考｜价值嵌入与价值对齐：人类控制论的幻觉 5天前
    侍卫两根一起好胀 H
  • 女同小说网 2天前
    口の虎は身を破る什么意思
  • 无码舔B按摩AV 8天前
    熟妇乱交
  • 高潮强迫双腿颤抖无力走不了路 3天前
    操美女嫩逼
  • 国外破处掰开逼逼 2天前
    粗操
  • a免毛片免费观看欧美_刚刚更新18禁成人视频 - V888AV 6天前
    3d婬乱爆乳女仆
  • 揉我胸 啊 嗯～出水杨颖 6天前
    jizz人妖
  • 正在播放:网曝泄密·推特气质娇妻唾液深喉口爆,吸舔精液,淫荡美娇妻 9天前
    美女被扒开双腿喷水裸乳网站
  • 白丝美女被后入 9天前
    丝袜美腿啪啪啪
  • 中国新疆XXXXXL19-2021 6天前
    叫CHUAN好听音频网站试听
再爱你一次电视剧
欧美一级婬片A片免费啪啪狂飙 -安卓手机网上最贴心的Android软件应用平台! 版权所有：16岁的没少女伦理电影院 m.mai4u.com 未找到备案号