人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-15 22:51:17 3,182次浏览

一些国际机构已经发布了政策,试图明确人工智能系统在设计时应遵守的伦理原则。例如,欧盟已经确定了关于使用人工智能的四项道德原则:无恶意、尊重自主权、算法公平和透明性。美国白宫科学技术办公室提出的原则略有不同,其中特别强调了人类有选择不与人工智能互动的权利,这一点其实是对自主权内涵的进一步扩大,也是对人类个体的独特性和自治性的保护,即人类有权决定不受人工智能的影响而采取符合自己判断的自主行动。从这个意义上来讲,通过施加对人工智能的价值对齐进而将设计的伦理原则施加于人类社会的做法,本身就是价值殖民的一种改版。这一结论并不夸张。从技术实践的层面来看,能够有效地在现有大模型中推进价值嵌入和价值对齐的,通常都是在技术、数据和算力上占据优势的大型科技公司,OpenAI、谷歌的DeepMind之前都建立了专注于解决价值对齐问题的团队(然而,前者刚刚宣布对其予以解散,后者的成效还需要进一步验证)。考虑已开发的人工智能的应用广度和深度,技术决定论似乎又一次在价值领域以一种奇异的姿态发挥了作用,它使得头部从业者不但可以主导市场,甚至可以主导人类社会。现实有可能变成:谁掌握了最先进/应用最广的人工智能,谁就拥有了实现价值对齐的权力,谁也就拥有了界定人类价值和人类普遍利益的权力。从而,结果有可能是,人工智能技术的掌握者不但以特定的价值实现了对AI的“对齐”,而且更以后者的无所不在、以技术无意识的方式实现对人类群体的普遍性对齐。这种价值观的扩展方式是历史上任何政治文化方案都无法实现的。 然而,这种互渗式的建构主义立场在拉图尔看来远未击中要害。因为,所谓“社会”建构的提法依旧将“社会”作为一个先验存在的实体独立于科学之外。只不过这一次,科学知识社会学将优先性的天平倾向了名为“社会”的假设集合,使其成为可能施加控制的一方。事实上,不但科学不是独立的存在,社会亦然,它是“另外一段不可见时空中不同力量之间凝结和固化的产物”,所谓“科学”,亦即是这诸多力量之一。尽管这也是拉图尔称之为“尽可能将精确知识与权力运作之间的二分割裂状态重新交织起来”的努力,但它并没有从本质上摆脱决定论的控制色彩。为了消除这种误解,拉图尔在再版自己和史蒂夫·伍尔加合著的《实验室生活:科学事实的社会建构》时将其改名为《实验室生活:科学事实的建构过程》,以此和社会建构主义划清界线。两位作者根据经验性的实验室研究过程提出,科学研究对象实际上是在实验室内由习俗性的观念、规范和方法构建而成的概念体系,并非独立于仪器和范式之外的存在,而是社会存在的展现方式之一。换言之,社会具身性的文化、习俗和观念对于科学研究及其方法的理解和界定同时决定了科学研究对象的合法性。正因为如此,科学活动本身应当被视为一种理念、传统和特定文化实践的体系——科学是一种文化,而非独立性的“中立”原则,社会同样也不只是价值的集合,它们之间互相界定,彼此参与,必须重新思考科学之所是以及社会之所是、所能的全部内涵。在这个意义上而言,拉图尔遵循了安德鲁·芬伯格对于技术哲学的社会使命的界定:对被默认为理所当然的现代性的合理性进行反思。他对科学实践把曲解的现象解读为事实非常不满,因而重释了科学实验对所谓“科学事实”的建构过程,希望以具有人类学意义的实践活动引导读者重新理解科学实践及其与社会的关系,从而消除人们观念中自然和社会之间的绝对分野。由此出发,他对于现代科学技术所制造的科学意识形态崇拜提出了批判,并关注科学与社会的联合生产同权力互构过程中的关系网络,探讨为何以某种方式提出问题并界定其条件的机制。 对此的一个佐证是对一些基于误判而出现的机器人事故的解读。各国都曾出现过机器人因将人体误判为作业对象而使其致残或致死的事故。这是“回形针假设”的现实版。究其原因,机器只根据预先的算法设计行事,而不是根据传感装置获得的对象的特殊信息进行判断。后者正是智能认知具身化的要求。事实上,早在1986年,布鲁克斯已经从控制论角度出发,强调智能是具身化和情境化的,他认为传统以信息表征为核心的经典AI进化路径是错误的,而要消除表征的局限性,就要制造基于行为获取信息的机器人。苏黎世大学人工智能实验室前主任罗尔夫·普菲弗与加拿大佛蒙特大学的乔希·邦加德则在合著的《身体的智能:智能科学新视角》一书中进一步提出,智能行为可以通过加强智能体的“身体”与外部环境交互的方式实现新的学习反馈机制,从而形成更能应对世界复杂性的智能。而在业界方面,英伟达创始人黄仁勋就曾在2023年表示,具身智能是能理解、推理,并与物理世界互动的智能系统,是人工智能的下一个浪潮。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 /
杰里斯女篮

杰里斯女篮

西女甲 | 2024-11-17 19:00
0
-
0

格尔尼卡女篮

格尔尼卡女篮

分析数据赛程

直播信号

赛事信息

北京时间:2024年11月17日 19:00分,西女甲【杰里斯女篮VS格尔尼卡女篮】准时开始,喜欢看西女甲比赛的朋友可以提前收藏本页面以免错过直播。还为您在本页面索引了相关西女甲直播、杰里斯女篮、格尔尼卡女篮直播的近期比赛列表以及两队历史交锋、两队最新比赛赛程。本站不参与制作、不存储,资源由热心网友提供信号源

相关标签

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-15 22:51:17 6,309次浏览

一些国际机构已经发布了政策,试图明确人工智能系统在设计时应遵守的伦理原则。例如,欧盟已经确定了关于使用人工智能的四项道德原则:无恶意、尊重自主权、算法公平和透明性。美国白宫科学技术办公室提出的原则略有不同,其中特别强调了人类有选择不与人工智能互动的权利,这一点其实是对自主权内涵的进一步扩大,也是对人类个体的独特性和自治性的保护,即人类有权决定不受人工智能的影响而采取符合自己判断的自主行动。从这个意义上来讲,通过施加对人工智能的价值对齐进而将设计的伦理原则施加于人类社会的做法,本身就是价值殖民的一种改版。这一结论并不夸张。从技术实践的层面来看,能够有效地在现有大模型中推进价值嵌入和价值对齐的,通常都是在技术、数据和算力上占据优势的大型科技公司,OpenAI、谷歌的DeepMind之前都建立了专注于解决价值对齐问题的团队(然而,前者刚刚宣布对其予以解散,后者的成效还需要进一步验证)。考虑已开发的人工智能的应用广度和深度,技术决定论似乎又一次在价值领域以一种奇异的姿态发挥了作用,它使得头部从业者不但可以主导市场,甚至可以主导人类社会。现实有可能变成:谁掌握了最先进/应用最广的人工智能,谁就拥有了实现价值对齐的权力,谁也就拥有了界定人类价值和人类普遍利益的权力。从而,结果有可能是,人工智能技术的掌握者不但以特定的价值实现了对AI的“对齐”,而且更以后者的无所不在、以技术无意识的方式实现对人类群体的普遍性对齐。这种价值观的扩展方式是历史上任何政治文化方案都无法实现的。 然而,这种互渗式的建构主义立场在拉图尔看来远未击中要害。因为,所谓“社会”建构的提法依旧将“社会”作为一个先验存在的实体独立于科学之外。只不过这一次,科学知识社会学将优先性的天平倾向了名为“社会”的假设集合,使其成为可能施加控制的一方。事实上,不但科学不是独立的存在,社会亦然,它是“另外一段不可见时空中不同力量之间凝结和固化的产物”,所谓“科学”,亦即是这诸多力量之一。尽管这也是拉图尔称之为“尽可能将精确知识与权力运作之间的二分割裂状态重新交织起来”的努力,但它并没有从本质上摆脱决定论的控制色彩。为了消除这种误解,拉图尔在再版自己和史蒂夫·伍尔加合著的《实验室生活:科学事实的社会建构》时将其改名为《实验室生活:科学事实的建构过程》,以此和社会建构主义划清界线。两位作者根据经验性的实验室研究过程提出,科学研究对象实际上是在实验室内由习俗性的观念、规范和方法构建而成的概念体系,并非独立于仪器和范式之外的存在,而是社会存在的展现方式之一。换言之,社会具身性的文化、习俗和观念对于科学研究及其方法的理解和界定同时决定了科学研究对象的合法性。正因为如此,科学活动本身应当被视为一种理念、传统和特定文化实践的体系——科学是一种文化,而非独立性的“中立”原则,社会同样也不只是价值的集合,它们之间互相界定,彼此参与,必须重新思考科学之所是以及社会之所是、所能的全部内涵。在这个意义上而言,拉图尔遵循了安德鲁·芬伯格对于技术哲学的社会使命的界定:对被默认为理所当然的现代性的合理性进行反思。他对科学实践把曲解的现象解读为事实非常不满,因而重释了科学实验对所谓“科学事实”的建构过程,希望以具有人类学意义的实践活动引导读者重新理解科学实践及其与社会的关系,从而消除人们观念中自然和社会之间的绝对分野。由此出发,他对于现代科学技术所制造的科学意识形态崇拜提出了批判,并关注科学与社会的联合生产同权力互构过程中的关系网络,探讨为何以某种方式提出问题并界定其条件的机制。 对此的一个佐证是对一些基于误判而出现的机器人事故的解读。各国都曾出现过机器人因将人体误判为作业对象而使其致残或致死的事故。这是“回形针假设”的现实版。究其原因,机器只根据预先的算法设计行事,而不是根据传感装置获得的对象的特殊信息进行判断。后者正是智能认知具身化的要求。事实上,早在1986年,布鲁克斯已经从控制论角度出发,强调智能是具身化和情境化的,他认为传统以信息表征为核心的经典AI进化路径是错误的,而要消除表征的局限性,就要制造基于行为获取信息的机器人。苏黎世大学人工智能实验室前主任罗尔夫·普菲弗与加拿大佛蒙特大学的乔希·邦加德则在合著的《身体的智能:智能科学新视角》一书中进一步提出,智能行为可以通过加强智能体的“身体”与外部环境交互的方式实现新的学习反馈机制,从而形成更能应对世界复杂性的智能。而在业界方面,英伟达创始人黄仁勋就曾在2023年表示,具身智能是能理解、推理,并与物理世界互动的智能系统,是人工智能的下一个浪潮。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

93.93MB
版本V4.5.9
下载美女脱了男人吃肌肌安装你想要的应用 更方便 更快捷 发现更多
喜欢 12%好评(15人)
评论 61
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 87.70MB
  • 最后更新: 2025-01-15 22:51:17
  • 最新版本: V7.8.9
  • 文件格式: apk
  • 应用分类:ios-Android 人妻 奶头 裸体九一软件
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,真人黄片链接,地狱电钻痉挛潮喷抽搐
二,又粗又大又黄又爽的操逼视频,啊 嗯 高潮~污污污
三,插入涩涩色色色处处,强奸乱伦熟女
四,强奸乱伦日本,雷电将军被 吸乳羞羞图片
五,日韩美女性爱自拍,一个人晚上在线观看的网站
六,操空姐嫩穴,麻豆天堂岛
七,扒开双腿猛进入jK校花视频,国产黃色A片三級三級三級老牛
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
snapshot6.5.2
女生张开腿男生插进去涩涩动漫视频

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 3天前
    淫妻互换激情小说
  • 美女被强扒内裤强桶A片免费看 5天前
    扒開腿灌牛奶拏調教鞠婧祎
  • jk開襟乳液狂飆awwW 4天前
    逼爽网
  • 日韩凌辱捆绑sm 6天前
    爆操日本肥逼
  • lvl3toaster帝法剪衣怎么看 6天前
    逼特
  • 高H操逼视频 7天前
    麻豆骚逼
  • 骚妇操逼交换 4天前
    一边摸奶一边抠逼
  • 毛茸茸操逼 9天前
    Youjizz干
  • 插穴影院 8天前
    奇淫旅社
  • 50岁女人大白屁股真爽 3天前
    动漫美女操逼xx羞羞

近5次交锋

杰里斯女篮近5场比赛

格尔尼卡女篮近5场比赛