人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

2025-01-25 07:08:11 7,207次浏览

[2]刘永谋,白英慧.坚持人工智能(AI)发展的有限主义进路[J].科学·经济·社会,2023 (6):58-71. 人类机器化风险产生于AI价值对齐的双向过程中。AI价值对齐并非仅指AI对人类价值观的学习,随着AI价值对齐程度的不断加深,AI似乎可以在某些情境中做出合理的道德决策,人类极有可能习惯性、无意识地运用甚至依赖AI进行道德判断。在此过程中,人类特有的批判分析能力、独有的人情味会在潜移默化中被削弱。此外,为保证大模型参数规模的持续扩展,某些AI方法开始采用模型生成的合成数据来增加人工标签。最新研究发现,在训练中不加区分地使用AI生成的内容,将产生“模型崩溃”(model collapse)效应,最终输出失真内容。因此,当合成数据与人类数据共同作为训练数据时,AI很难与人类价值完全对齐,无法保证AI不会做出道德失范行为。当此种行为具备隐藏性且对社会的负面影响极其微小时,人类将难以发现甚或置之不理。长此以往,AI价值对齐的方向将发生反转,AI向人类对齐将演变成人类向AI看齐,人类的价值认知会逐渐产生偏差,认为AI能够做出比人类更合理、更高效的决策。最终,AI生发的价值观将逐渐被人类接受、采纳与内化,当社会的大部分决策都由AI做出时,社会法规、学校教育、信息传播等均将以AI价值观为基准,人类不再是社会制度、规范与价值的绝对主导者,将日益成为智能机器的某种配件。 跳出自由主义框架,以有限主义视域审视AI价值对齐是必要的、有价值的。尼克·波斯特洛姆(Nick Bostrom)在分析智能大爆发的动力学、超级智能的形式和能量的基础之上,转向AI控制问题的研究。他区分了确保AI可控的能力控制方法与动机选择方法,认为能力控制方法最多只是暂时的、辅助的手段,人类应更多地掌握AI动机选择机制。在此基础之上,波斯特洛姆详细分析了AI获取人类价值观的多种方法,如详细表达、进化选择、强化学习、价值观累积、动机性支架、价值观学习、仿真调节、体制设计,并对可行性与效果进行评估。此外,斯图尔特·罗素(Stuart Russell)同样强调,要保持对AI的绝对控制权,确保AI永远对人类有益。他提出了人机之间的一种新关系,即:当致力于使AI实现人类目标时,应明确人类的目标是不确定的,如此才能确保AI服从于人类,在行动前请求许可、接受纠正、允许被关闭。无论是尼克·波斯特洛姆,还是斯图尔特·罗素,均遵循AI发展的有限主义进路,强调AI的可控性与有益性。正如科技谦逊主义所认为的,“人类发展科技的最终目标毫无疑问是为了人类福祉,即使追求真理的冲动,最后也是要落实到造福社会上的”。与自由主义进路相对,有限主义进路关注对AI的控制而非无限发展,“重要的是努力控制,而不是完成控制”。因此,在有限主义视域下审视AI价值对齐的基本预设、功能范围与具体方案,才能确保AI安全、有益、实用,避免陷入“AI必须拥有像人类一样的价值观”的技术、伦理等跨学科难题中。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

「活动」首次登录送19元红包

36.64MB
版本V2.6.5
下载欧美美女被操爽了安装你想要的应用 更方便 更快捷 发现更多
喜欢 80%好评(36人)
评论 20
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图0 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图1 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图2 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图3 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图4
详细信息
  • 软件大小: 32.65MB
  • 最后更新: 2025-01-25 07:08:11
  • 最新版本: V5.9.3
  • 文件格式: apk
  • 应用分类:ios-Android 湖南张丽
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,极品国产欧美17c,操美女嫩穴av
二,强行破瓜粗暴顶弄蹂躏哭喊,毛逼视频免费播放
三,国模扮穴,亚洲肥逼
四,极品骚货PP网-,欧美黄色口交
五,8x 女逼,打PG打到烂无挡住的视频
六,亲爱的我要用点力视频,出租屋啪啪啪91
七,黄色动作性感大片韩国,嫩逼被狠操出水
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
snapshot6.2.8
女人被中出内射后入嫩穴

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐类似软件

猜你喜欢

包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐 7天前
    黄色干逼
  • 旅行者强制让神里凌华怀上小宝宝 3天前
    宝宝我们到卫生间里做动漫
  • 丝袜美腿强奸乱伦经典三级 5天前
    美女被日 骚逼网站视频
  • 日韩欧美肥老太肥操操操 9天前
    车文DO过程
  • 性感白丝旗袍眼镜妹被我艹 3天前
    双人床上扑克视频教程
  • 俗人岛论坛 1天前
    丁来杭出什么事
  • 卫校破女轻点疼18分钟 8天前
    别墅里的轮换黄晓娟全文阅读
  • 女人阴性道图片真人18 8天前
    五月天国色天香
  • 真实国产亂伦WWWHD91 3天前
    国产另类干屄屄
  • 小太正资源cute免费 5天前
    荷兰少妇人体动态图片大全