人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-20 03:41:09 3,593次浏览

印度比拉理工学院的机器人模拟专家阿卡普拉沃·包米克在谈到具有自主性的AI智能体设计需要遵循的原则时,特别强调了只有从具身认知的特性、而不是抽象的人机对立原则出发才能有所突破。由于认知本身是基于同智能体自身所处的环境之间的交互而形成的,它首先具有情境性,并且这种情境性认知会建立起一个随着时间压力而推进的连续的进化响应,从而动态地生成适合于情境的价值判断或行动。这种认知模型本身不具有泛化扩展性,因此只能以环境反馈的方式进行补偿,而无法“完全形成对相关行为的系统响应”。这也就解释了为什么Gemini的研发团队在试图纠正训练数据集的数据分布不均衡所导致的种族主义偏差时,为什么会引发更显而易见的错误。它同时也导向了一个价值对齐的拥护者们容易回避的问题:对齐行为的效果并不如器官移植一般理想,它更像是基因修改,其下游的风险难以预测。因为“被设计的伦理/价值”在何种意义上可以与持续性的智能体-环境交互系统始终保持自洽,这本身就是一个需要证明的命题。与现实情境中的价值多元相对应,其实并不存在抽象的有益于“人类”的唯一价值。特定的价值总是使一些人受益而损害另外一些人的利益。每一个具体的价值判断都依赖于上下文信息和在不同的规范性领域(如道德、习俗、认知和政治)进行协调行动的技巧,而不是某种作为标准方案的规范性的“对齐”。“没有什么可以保证标准解决方案所呼吁的建立只重视人类的人工智能的普遍政策得到普遍实施。在一个利益竞争和许多坏行为者的混乱世界里,标准的解决方案看起来像是一种冰冷的安慰”。“对齐”的设想更接近波普尔所批评的社会改造的“乌托邦策略”,只不过这一次是赛博属性的,它以维护理想价值原则作为控制论的首要原则,从而必然导致实践中的教条主义和独断论。而且,对首要原则和总体策略的任何质疑,都有可能导致颠覆性的结果;使得哪怕是技术性的纠错,都要耗费巨大的社会成本(尤其考虑到数字技术和人工智能的普及),甚至是彻底失败。 对此的一个佐证是对一些基于误判而出现的机器人事故的解读。各国都曾出现过机器人因将人体误判为作业对象而使其致残或致死的事故。这是“回形针假设”的现实版。究其原因,机器只根据预先的算法设计行事,而不是根据传感装置获得的对象的特殊信息进行判断。后者正是智能认知具身化的要求。事实上,早在1986年,布鲁克斯已经从控制论角度出发,强调智能是具身化和情境化的,他认为传统以信息表征为核心的经典AI进化路径是错误的,而要消除表征的局限性,就要制造基于行为获取信息的机器人。苏黎世大学人工智能实验室前主任罗尔夫·普菲弗与加拿大佛蒙特大学的乔希·邦加德则在合著的《身体的智能:智能科学新视角》一书中进一步提出,智能行为可以通过加强智能体的“身体”与外部环境交互的方式实现新的学习反馈机制,从而形成更能应对世界复杂性的智能。而在业界方面,英伟达创始人黄仁勋就曾在2023年表示,具身智能是能理解、推理,并与物理世界互动的智能系统,是人工智能的下一个浪潮。 可见,人工智能技术从来不是一个独立于人类智能之外的系统,相反,它从开发、形成到测试及至运用的整个过程都浸润在人类的行为和经验之中。这些经验和事实未必只受到数字化或互联网的左右,它们是人类社会内部所包含的历史、文化、习俗乃至偏见或冲突的投射。完全“责任主体”的认定在人工智能技术的实施过程中难以确定,这也就使得价值“嵌入”或“对齐”的目标是否可以通过研发团队一揽子解决本身就是存疑的。从结果上来看,当谷歌试图为确保Gemini避免过去图像生成技术的陷阱而进行调整时,显然因为某种忽视而造成了过度输出或过度保守的后果。该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

65.31MB
版本r2.5.9
下载中国熟女乱伦安装你想要的应用 更方便 更快捷 发现更多
喜欢 65%好评(63人)
评论 49
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 46.63MB
  • 最后更新: 2025-01-20 03:41:09
  • 最新版本: V7.6.5
  • 文件格式: apk
  • 应用分类:ios-Android 初体验黑人40厘米巨大连接
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,公交车奶h玩弄爽到失禁,jiapan丰满熟乱
二,高H+双处+1V1+激H,好屌妞天堂
三,山东浩浩19厘米做2023,做错了事就往下面塞一个冰球
四,新版贴吧,黄片直播逼
五,消防员的糙汉文PO多肉,proumb精选视频
六,HEYZO无码综合国产精品换脸,70cheapwindowsvps色太婆
七,jiZZjiZZ日本丰满熟妇,大白屁股缝里浓黑的毛
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
v5.7.8
乱岳大全人妻熟女

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 9天前
    操逼抠逼
  • 肏欧美女人的大肥屄 5天前
    另类老太婆BBWBBW
  • 第70章 杨幂趴在办公桌 1天前
    高潮A片揉搓乳尖乱颤视频
  • 小穴美女 6天前
    肏逼强搞捅
  • 水野朝阳无码爆乳AV 7天前
    男子自愿被揉裆
  • 淫荡熟女操逼视频 1天前
    美里有纱AV综合
  • 欧美肥婆性爱视频 7天前
    性感黑丝自慰流水
  • 小舞腿间的草丛中的白灼液体 2天前
    红桃38.42
  • 一起草逼大奶美女 8天前
    wwwww黄
  • 毛片Tx S 6天前
    干逼爽网