人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-08 04:27:19 7,694次浏览

这无疑是一个看起来很美好的目标。它寄希望于在意图和价值观方面对人工智能进行“类人驯化”,以使其达到从意义上理解人类行为和选择并予以遵从的目的。简单来说,就是使建立在庞大的、多元化数据集基础上的大模型预训练结果既合法又合乎道德。从业界在这方面的努力来看,2023年7月,AIGC的领军企业OpenAI宣布成立一个新的AI对齐团队,这个超级对齐团队(superalignment)的目标是在4年内让超级AI系统实现价值对齐和安全。为此,OpenAI承诺将投入20%的计算资源用于对齐超级智能,而项目的核心则是训练出一个大致与人类智识水平相当的AI自动对齐研究员,再借助自动对齐研究员找出对齐超级智能的方法。除此之外,谷歌、微软等公司也都纷纷跟进,成立了类似团队,将价值对齐作为寻求人工智能安全性和一致性的重要途径之一。一时之间,价值对齐的口号风头无两。 [11][德]彼德·斯洛特戴克.资本的内部[M].北京:社会科学文献出版社,)2014:275. 印度比拉理工学院的机器人模拟专家阿卡普拉沃·包米克在谈到具有自主性的AI智能体设计需要遵循的原则时,特别强调了只有从具身认知的特性、而不是抽象的人机对立原则出发才能有所突破。由于认知本身是基于同智能体自身所处的环境之间的交互而形成的,它首先具有情境性,并且这种情境性认知会建立起一个随着时间压力而推进的连续的进化响应,从而动态地生成适合于情境的价值判断或行动。这种认知模型本身不具有泛化扩展性,因此只能以环境反馈的方式进行补偿,而无法“完全形成对相关行为的系统响应”。这也就解释了为什么Gemini的研发团队在试图纠正训练数据集的数据分布不均衡所导致的种族主义偏差时,为什么会引发更显而易见的错误。它同时也导向了一个价值对齐的拥护者们容易回避的问题:对齐行为的效果并不如器官移植一般理想,它更像是基因修改,其下游的风险难以预测。因为“被设计的伦理/价值”在何种意义上可以与持续性的智能体-环境交互系统始终保持自洽,这本身就是一个需要证明的命题。与现实情境中的价值多元相对应,其实并不存在抽象的有益于“人类”的唯一价值。特定的价值总是使一些人受益而损害另外一些人的利益。每一个具体的价值判断都依赖于上下文信息和在不同的规范性领域(如道德、习俗、认知和政治)进行协调行动的技巧,而不是某种作为标准方案的规范性的“对齐”。“没有什么可以保证标准解决方案所呼吁的建立只重视人类的人工智能的普遍政策得到普遍实施。在一个利益竞争和许多坏行为者的混乱世界里,标准的解决方案看起来像是一种冰冷的安慰”。“对齐”的设想更接近波普尔所批评的社会改造的“乌托邦策略”,只不过这一次是赛博属性的,它以维护理想价值原则作为控制论的首要原则,从而必然导致实践中的教条主义和独断论。而且,对首要原则和总体策略的任何质疑,都有可能导致颠覆性的结果;使得哪怕是技术性的纠错,都要耗费巨大的社会成本(尤其考虑到数字技术和人工智能的普及),甚至是彻底失败。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

59.71MB
版本release5.6.9
下载美女把13露出来乱操安装你想要的应用 更方便 更快捷 发现更多
喜欢 99%好评(98人)
评论 16
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 40.26MB
  • 最后更新: 2025-01-08 04:27:19
  • 最新版本: V6.7.4
  • 文件格式: apk
  • 应用分类:ios-Android 暴走黑料
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,日本熟妇五十路精品,好湿 好紧 好多水好爽A片
二,学生XXXX69动漫,好色色色网站大全美女
三,爆操白虎女,YAYA秘密花园的微博
四,内射黑丝熟女,啊 好痛 嗯 轻一点揉我胸
五,疯狂抽插淫荡女生宿舍蜜桃臀,114AⅤ尤物
六,大屌爆操白虎嫩逼,熟女乱5
七,午夜黄色美女自慰直播小穴喷水色综合高潮婷婷轮奸欧美,人妻少妇性感骚逼被干过程
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
V3.2.9
欧美开苞

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 9天前
    黑丝内射性爱
  • 极品操B 5天前
    自慰黄网www喷水老师
  • 男女操逼图 9天前
    农村少妇ⅩXXXXXxX爽
  • 大吊操美女 6天前
    欧美 变态 另类 人妖
  • 成人男女涩涩大片免费观看下载 7天前
    自拍偷拍强奸高清
  • 动漫美女被 奶头吸乳羞羞 6天前
    大鸡巴日麻逼视频日日爱
  • 美女掰开自己的腚茶筷子 7天前
    5177浮力影院
  • 操黑丝校花 8天前
    欧美 粗爆se公羊得到向上
  • 高跟鞋脚交性爽XXX 8天前
    美女黄色视频胖逼逼
  • 国产我要操女生 4天前
    用力插视频交换