人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

2025-01-25 04:18:29 5,532次浏览

其次,AI价值对齐类人有限性指当试图使AI在大量案例中模仿人类道德时,存在不完美模仿与过度模仿的差异性。不完美模仿即人类道德存在应然与实然的偏差,在现实中达不到理想中的至善状态。传统道德观认为,人类道德以意识与情感为基础,但是,人类的认知与情感受家庭培养、学校教育与社会教化的影响,存在着个体差异性,现实中人类的道德水平参差不齐,人类集体无法提供完全纯粹的道德行为案例。当训练数据中包含了人类的歧视、偏见等不道德行为时,AI系统便会对人类的不完美道德进行模仿并不断强化,甚至有些用户会刻意引导AI生成与传播不良内容,如微软的Tay聊天机器人在与Twitter用户的互动中,迅速学习与模仿了某些来自用户的不当言论,如种族主义与性别歧视等言论。此外,AI对人类的模仿虽然能够大幅提升价值对齐效率、无须承担无数次的试错风险、有助于AI学习到难以用语言描述的人类行为,但是AI在模仿时极易出现过度模仿行为。当人类在完成某件特定任务时,为了自身的舒适度,可能会在常规步骤中加入某些不必要但却适合自身的行为,若AI进行直接模仿,便会额外消耗资源与算力,产生不必要的浪费。并且,AI在观察人类行为的基础上,需要进行推断,得出如何行动的结论。显然,此类推断很容易出错,因为AI的推断以数据和逻辑为基础,而人类行为则掺杂非理性尤其是情感因素。 [16]Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, et al. AI models collapse when trained on recursively generated data[J]. Nature,2024,631(8022):755-759. 跳出自由主义框架,以有限主义视域审视AI价值对齐是必要的、有价值的。尼克·波斯特洛姆(Nick Bostrom)在分析智能大爆发的动力学、超级智能的形式和能量的基础之上,转向AI控制问题的研究。他区分了确保AI可控的能力控制方法与动机选择方法,认为能力控制方法最多只是暂时的、辅助的手段,人类应更多地掌握AI动机选择机制。在此基础之上,波斯特洛姆详细分析了AI获取人类价值观的多种方法,如详细表达、进化选择、强化学习、价值观累积、动机性支架、价值观学习、仿真调节、体制设计,并对可行性与效果进行评估。此外,斯图尔特·罗素(Stuart Russell)同样强调,要保持对AI的绝对控制权,确保AI永远对人类有益。他提出了人机之间的一种新关系,即:当致力于使AI实现人类目标时,应明确人类的目标是不确定的,如此才能确保AI服从于人类,在行动前请求许可、接受纠正、允许被关闭。无论是尼克·波斯特洛姆,还是斯图尔特·罗素,均遵循AI发展的有限主义进路,强调AI的可控性与有益性。正如科技谦逊主义所认为的,“人类发展科技的最终目标毫无疑问是为了人类福祉,即使追求真理的冲动,最后也是要落实到造福社会上的”。与自由主义进路相对,有限主义进路关注对AI的控制而非无限发展,“重要的是努力控制,而不是完成控制”。因此,在有限主义视域下审视AI价值对齐的基本预设、功能范围与具体方案,才能确保AI安全、有益、实用,避免陷入“AI必须拥有像人类一样的价值观”的技术、伦理等跨学科难题中。该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

「活动」首次登录送19元红包

38.88MB
版本V4.9.8
下载欧美z0 交安装你想要的应用 更方便 更快捷 发现更多
喜欢 80%好评(36人)
评论 66
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图0 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图1 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图2 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图3 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图4
详细信息
  • 软件大小: 30.82MB
  • 最后更新: 2025-01-25 04:18:29
  • 最新版本: V3.4.8
  • 文件格式: apk
  • 应用分类:ios-Android yy网站
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,成人做爰黄AA片免费看文章,真实约操国产大学生
二,免费无码婬片A片AAA毛片96,白虎少妇自慰
三,女人张开腿涩涩秘 网站,欧美女同互舔
四,日本美女的逼毛茸茸的,肏屄动态图
五,性感丝袜美女被操到爽在线,水多肉多文章推荐
六,校花趴在玻璃窗做给别人看的作文,附近曰逼大奶
七,蜜臀TVYY68888.COM,999精品国产人妻无码梦乃爱华
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
snapshot6.5.2
www.绿帽TV

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐类似软件

猜你喜欢

包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐 5天前
    粉色骚逼
  • 中国人体美鲍 6天前
    一个男生把另一个男孩 哭了
  • 10款黄台网站入口免费 7天前
    男女差差差很痛的
  • 邻居 啊 嗯~出奶了 1天前
    惩罚高潮求饶哭喊震动h
  • 粉嫩美鲍 6天前
    大陆淫乱精品
  • 阴道惩罚网站 3天前
    淫妻AV
  • 【妖精视频】白人小美女被老爸肛交又颜射 9天前
    欧洲同志视频video
  • 刘耀文办公室顶宋亚轩 5天前
    男生跟女生打飞机的黄色视频
  • 美女脱掉内裤被操了 9天前
    极品无码动漫美女自慰
  • 老板一直在捏我的小兔兔 1天前
    淫荡小骚逼