人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

2025-01-18 11:08:21 4,784次浏览

跳出自由主义框架,以有限主义视域审视AI价值对齐是必要的、有价值的。尼克·波斯特洛姆(Nick Bostrom)在分析智能大爆发的动力学、超级智能的形式和能量的基础之上,转向AI控制问题的研究。他区分了确保AI可控的能力控制方法与动机选择方法,认为能力控制方法最多只是暂时的、辅助的手段,人类应更多地掌握AI动机选择机制。在此基础之上,波斯特洛姆详细分析了AI获取人类价值观的多种方法,如详细表达、进化选择、强化学习、价值观累积、动机性支架、价值观学习、仿真调节、体制设计,并对可行性与效果进行评估。此外,斯图尔特·罗素(Stuart Russell)同样强调,要保持对AI的绝对控制权,确保AI永远对人类有益。他提出了人机之间的一种新关系,即:当致力于使AI实现人类目标时,应明确人类的目标是不确定的,如此才能确保AI服从于人类,在行动前请求许可、接受纠正、允许被关闭。无论是尼克·波斯特洛姆,还是斯图尔特·罗素,均遵循AI发展的有限主义进路,强调AI的可控性与有益性。正如科技谦逊主义所认为的,“人类发展科技的最终目标毫无疑问是为了人类福祉,即使追求真理的冲动,最后也是要落实到造福社会上的”。与自由主义进路相对,有限主义进路关注对AI的控制而非无限发展,“重要的是努力控制,而不是完成控制”。因此,在有限主义视域下审视AI价值对齐的基本预设、功能范围与具体方案,才能确保AI安全、有益、实用,避免陷入“AI必须拥有像人类一样的价值观”的技术、伦理等跨学科难题中。 AI价值对齐的有限目标原则主张反对通用AI价值对齐的路线,是应对AI失控风险的有效手段。“实际上,控制问题——也就是如何控制超级智能,似乎非常困难,而且我们似乎也只有一次机会。一旦不友好的超级智能出现,它就会阻止我们将其替换或者更改其偏好设置,而我们的命运就因此被锁定了”。在有限主义看来,在目标选择上,应具备审度思维,仔细审视与衡量各类发展目标的影响程度、现实性与操作性,审慎选择最优的AI价值对齐目标。其实,在特定场合与特定任务中,无论是通过人类被动灌输还是AI主动学习,AI向人类价值对齐完全具备可能性与可控性。AI价值对齐的真正困难与风险在于,它试图实现通用AI价值对齐的宏大目标。毕竟,人类无法准确预知AI通用场景与具体情境,既无法预先穷尽所有应对规则并加以灌输,又难以确保AI及时高效地学习到可靠的处理范式。因此,有限主义认为,正是试图让机器学习模型通用,才极易引发失控风险。 [3][英]尼克·波斯特洛姆.超级智能:路线图、危险性与应对策略[M].张体伟,张玉青,译.北京:中信出版社,2015.

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

「活动」首次登录送19元红包

64.10MB
版本V9.2.5
下载猛插熟女安装你想要的应用 更方便 更快捷 发现更多
喜欢 21%好评(13人)
评论 81
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图0 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图1 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图2 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图3 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图4
详细信息
  • 软件大小: 51.24MB
  • 最后更新: 2025-01-18 11:08:21
  • 最新版本: beta6.3.9
  • 文件格式: apk
  • 应用分类:ios-Android 学生妹白丝足交
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,大鸡巴操我插我av,无码BBHD欧美裸交
二,scp166腿中间漏水视频,尾行6中文版下载
三,国产粉嫩无套内射白浆在线观看白丝袜肛交,宝宝我们换个姿势卫生间视频
四,女真人强奸乱伦,nxgxporn
五,软糯小受灌满哭求饶BL道具,校花被狂艹
六,黑人外国啪啪一级蜜桃,顶级大但人文艺术视频全美
七,大学生贷款裸肉真拍视频,www.xiuxiu263
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
V4.2.9
男人和女人插鸡鸡欧美

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐类似软件

猜你喜欢

包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐 7天前
    骚逼阁
  • 午夜成人另类兽交 7天前
    最残忍最另类残虐SM的小说
  • 美日韩高清肛交 7天前
    美女69xxxxxxxx
  • 校花被 出乳白色液体软件 3天前
    嗯~啊啊~lutube污污污
  • 日本极品尤物操逼视频 3天前
    亚欧成人A片免费观看软件
  • 恩啊在楼梯上边走边做 1天前
    偷拍各类美女嘘嘘88AV
  • 美女被 到爽 高潮草莓 3天前
    艹老肥逼
  • 小骚穴av 9天前
    强行扒开小受双腿进入男男
  • 老师videsdesexo孕妇 5天前
    nxgx日本老师
  • 涩涩17c10视频 6天前
    与三个老外三p销魂经历