人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-09 21:31:37 3,838次浏览

[13]James Gips. Towards the ethical robot[M]∥Android epistemology. Cambridge,) MA:MIT Press,) 1994:284. 印度比拉理工学院的机器人模拟专家阿卡普拉沃·包米克在谈到具有自主性的AI智能体设计需要遵循的原则时,特别强调了只有从具身认知的特性、而不是抽象的人机对立原则出发才能有所突破。由于认知本身是基于同智能体自身所处的环境之间的交互而形成的,它首先具有情境性,并且这种情境性认知会建立起一个随着时间压力而推进的连续的进化响应,从而动态地生成适合于情境的价值判断或行动。这种认知模型本身不具有泛化扩展性,因此只能以环境反馈的方式进行补偿,而无法“完全形成对相关行为的系统响应”。这也就解释了为什么Gemini的研发团队在试图纠正训练数据集的数据分布不均衡所导致的种族主义偏差时,为什么会引发更显而易见的错误。它同时也导向了一个价值对齐的拥护者们容易回避的问题:对齐行为的效果并不如器官移植一般理想,它更像是基因修改,其下游的风险难以预测。因为“被设计的伦理/价值”在何种意义上可以与持续性的智能体-环境交互系统始终保持自洽,这本身就是一个需要证明的命题。与现实情境中的价值多元相对应,其实并不存在抽象的有益于“人类”的唯一价值。特定的价值总是使一些人受益而损害另外一些人的利益。每一个具体的价值判断都依赖于上下文信息和在不同的规范性领域(如道德、习俗、认知和政治)进行协调行动的技巧,而不是某种作为标准方案的规范性的“对齐”。“没有什么可以保证标准解决方案所呼吁的建立只重视人类的人工智能的普遍政策得到普遍实施。在一个利益竞争和许多坏行为者的混乱世界里,标准的解决方案看起来像是一种冰冷的安慰”。“对齐”的设想更接近波普尔所批评的社会改造的“乌托邦策略”,只不过这一次是赛博属性的,它以维护理想价值原则作为控制论的首要原则,从而必然导致实践中的教条主义和独断论。而且,对首要原则和总体策略的任何质疑,都有可能导致颠覆性的结果;使得哪怕是技术性的纠错,都要耗费巨大的社会成本(尤其考虑到数字技术和人工智能的普及),甚至是彻底失败。 从根本上而言,具身智能就是让人工智能获得“身体”——它不是指形式上的身体,而是具备感性经验获得能力的身体。正如人类的认知是基于对感官所获得的信息进行加工的过程一样,具身智能的发展思路是试图帮助人工智能从对情境的实时交互中形成符号理解的过程,它是将认知置于环境中,形成连续的进化响应的过程。简单地讲,具身人工智能将不再像传统人工智能那样对相关条件和行为进行对应反应,而是和人类理解世界的方式类似,通过传感设备获得的第一手环境信息(声音、影像、触觉、温度甚至表情等),建立起实时、动态的完整符号模型。其认知和理解不再是“离线”式的,而是满足时间压力的持续交互状态。这种心智仿真结构所形成的智能体将是一个与情境不可分离的开放网络。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 /
杰里斯女篮

杰里斯女篮

西女甲 | 2024-11-17 19:00
0
-
0

格尔尼卡女篮

格尔尼卡女篮

分析数据赛程

直播信号

赛事信息

北京时间:2024年11月17日 19:00分,西女甲【杰里斯女篮VS格尔尼卡女篮】准时开始,喜欢看西女甲比赛的朋友可以提前收藏本页面以免错过直播。还为您在本页面索引了相关西女甲直播、杰里斯女篮、格尔尼卡女篮直播的近期比赛列表以及两队历史交锋、两队最新比赛赛程。本站不参与制作、不存储,资源由热心网友提供信号源

相关标签

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-09 21:31:37 9,929次浏览

[13]James Gips. Towards the ethical robot[M]∥Android epistemology. Cambridge,) MA:MIT Press,) 1994:284. 印度比拉理工学院的机器人模拟专家阿卡普拉沃·包米克在谈到具有自主性的AI智能体设计需要遵循的原则时,特别强调了只有从具身认知的特性、而不是抽象的人机对立原则出发才能有所突破。由于认知本身是基于同智能体自身所处的环境之间的交互而形成的,它首先具有情境性,并且这种情境性认知会建立起一个随着时间压力而推进的连续的进化响应,从而动态地生成适合于情境的价值判断或行动。这种认知模型本身不具有泛化扩展性,因此只能以环境反馈的方式进行补偿,而无法“完全形成对相关行为的系统响应”。这也就解释了为什么Gemini的研发团队在试图纠正训练数据集的数据分布不均衡所导致的种族主义偏差时,为什么会引发更显而易见的错误。它同时也导向了一个价值对齐的拥护者们容易回避的问题:对齐行为的效果并不如器官移植一般理想,它更像是基因修改,其下游的风险难以预测。因为“被设计的伦理/价值”在何种意义上可以与持续性的智能体-环境交互系统始终保持自洽,这本身就是一个需要证明的命题。与现实情境中的价值多元相对应,其实并不存在抽象的有益于“人类”的唯一价值。特定的价值总是使一些人受益而损害另外一些人的利益。每一个具体的价值判断都依赖于上下文信息和在不同的规范性领域(如道德、习俗、认知和政治)进行协调行动的技巧,而不是某种作为标准方案的规范性的“对齐”。“没有什么可以保证标准解决方案所呼吁的建立只重视人类的人工智能的普遍政策得到普遍实施。在一个利益竞争和许多坏行为者的混乱世界里,标准的解决方案看起来像是一种冰冷的安慰”。“对齐”的设想更接近波普尔所批评的社会改造的“乌托邦策略”,只不过这一次是赛博属性的,它以维护理想价值原则作为控制论的首要原则,从而必然导致实践中的教条主义和独断论。而且,对首要原则和总体策略的任何质疑,都有可能导致颠覆性的结果;使得哪怕是技术性的纠错,都要耗费巨大的社会成本(尤其考虑到数字技术和人工智能的普及),甚至是彻底失败。 从根本上而言,具身智能就是让人工智能获得“身体”——它不是指形式上的身体,而是具备感性经验获得能力的身体。正如人类的认知是基于对感官所获得的信息进行加工的过程一样,具身智能的发展思路是试图帮助人工智能从对情境的实时交互中形成符号理解的过程,它是将认知置于环境中,形成连续的进化响应的过程。简单地讲,具身人工智能将不再像传统人工智能那样对相关条件和行为进行对应反应,而是和人类理解世界的方式类似,通过传感设备获得的第一手环境信息(声音、影像、触觉、温度甚至表情等),建立起实时、动态的完整符号模型。其认知和理解不再是“离线”式的,而是满足时间压力的持续交互状态。这种心智仿真结构所形成的智能体将是一个与情境不可分离的开放网络。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

26.83MB
版本snapshot7.3.6
下载一二三区无线乱码2021安装你想要的应用 更方便 更快捷 发现更多
喜欢 33%好评(12人)
评论 56
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 28.16MB
  • 最后更新: 2025-01-09 21:31:37
  • 最新版本: V9.3.5
  • 文件格式: apk
  • 应用分类:ios-Android 女生辣眼睛的部位不涂鸦
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,学生妹一级J人片内射视频,老妇太荫蒂高潮大叫受不了
二,老肥妇乱伦自拍,极品91尤物被啪到喷水呻吟
三,鸡巴操死我视频色色色色,美女裸体 开腿羞羞吞精
四,别揉我胸 啊 嗯~裸体美女,玉婷被六个男人躁到早上
五,迪丽热巴颜射吞精,欧美z000z猪
六,可插可脱身服全去掉的三国游戏,japonensisjava孕妇
七,十八禁游戏爽 躁多水 快 高潮,色多多日逼
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
release8.6.3
欧美女同肛交视频观看

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 9天前
    纲手木叶性处理医院acg
  • 美女秘书舔大屌淫水横流内裤激情四射 7天前
    男男黄粗暴进入
  • 艹黄蓉 4天前
    美女摸逼逼网站
  • 狂戳美女 2天前
    屄屄写真
  • 人妻 奶头 裸体 8天前
    好满射太多了装不下了短文
  • 买保险套的女销售要求试用 1天前
    被老外添嫩苞添高潮图片
  • 杨幂被男人桶到嗷嗷叫爽 1天前
    熟女被插
  • 疯马秀表演视频网站免费视频 2天前
    操淫妻
  • 大鸡吧插得骚逼冒白浆 1天前
    男朋友让我打开腿被他摸
  • 宝贝趴墙上让我爽一下 2天前
    换妻探花

近5次交锋

杰里斯女篮近5场比赛

格尔尼卡女篮近5场比赛