人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

2025-01-24 14:18:32 7,664次浏览

跳出自由主义框架,以有限主义视域审视AI价值对齐是必要的、有价值的。尼克·波斯特洛姆(Nick Bostrom)在分析智能大爆发的动力学、超级智能的形式和能量的基础之上,转向AI控制问题的研究。他区分了确保AI可控的能力控制方法与动机选择方法,认为能力控制方法最多只是暂时的、辅助的手段,人类应更多地掌握AI动机选择机制。在此基础之上,波斯特洛姆详细分析了AI获取人类价值观的多种方法,如详细表达、进化选择、强化学习、价值观累积、动机性支架、价值观学习、仿真调节、体制设计,并对可行性与效果进行评估。此外,斯图尔特·罗素(Stuart Russell)同样强调,要保持对AI的绝对控制权,确保AI永远对人类有益。他提出了人机之间的一种新关系,即:当致力于使AI实现人类目标时,应明确人类的目标是不确定的,如此才能确保AI服从于人类,在行动前请求许可、接受纠正、允许被关闭。无论是尼克·波斯特洛姆,还是斯图尔特·罗素,均遵循AI发展的有限主义进路,强调AI的可控性与有益性。正如科技谦逊主义所认为的,“人类发展科技的最终目标毫无疑问是为了人类福祉,即使追求真理的冲动,最后也是要落实到造福社会上的”。与自由主义进路相对,有限主义进路关注对AI的控制而非无限发展,“重要的是努力控制,而不是完成控制”。因此,在有限主义视域下审视AI价值对齐的基本预设、功能范围与具体方案,才能确保AI安全、有益、实用,避免陷入“AI必须拥有像人类一样的价值观”的技术、伦理等跨学科难题中。 现有人工智能(artificial intelligence,简称AI)价值对齐方案试图借助自然科学的经验证据与实证方法厘清人类道德的自然主义基础,并通过技术手段将其应用到AI对人类价值观的学习之中,忽视了道德的自然主义解释的根本性缺陷,引发了AI价值对齐难题。有限主义认为,现有AI价值对齐方案主张使AI具备类人道德,在本质上遵循AI发展的自由主义进路。这过于乐观化、理想化。在现实中,时空有限性、类人有限性与算法有限性等难题导致AI价值对齐的功能有限性。同时,AI价值对齐的功能有限性又伴随着各类技术风险与社会风险,即AI失控风险、人类机器化风险、无人担责风险与AI滥用风险。对此,应坚持有限主义的AI价值对齐方案,反对通用AI价值对齐的路线,坚持AI价值对齐的去道德化,制度化防止AI道德责任对齐,以及控制AI价值对齐的应用范围。 在现有技术路径中,AI价值对齐方案可分为两大类:插入式对齐与微调式对齐。插入式对齐(plug-in alignment)包括参数高效的调整(parameter-efficient tuning)、输出矫正(output rectification)、上下文学习(in content learning);微调式对齐(fine-tuning based alignment)包括全监督微调 (supervised fine-tuning, SFT)和基于人类反馈的强化学习微调(reinforcement learning from human feedback, RLHF)。此外,Anthropic公司提出的“宪法人工智能”(constitutional AI)作为一种微调方法,主张以训练好的“宪法AI”模型评估主模型的输出是否符合“宪法”规则,力图基于模型训练而非人类反馈实现高效的、规模化的AI价值对齐。该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

「活动」首次登录送19元红包

48.90MB
版本V8.2.4
下载操逼逼sp安装你想要的应用 更方便 更快捷 发现更多
喜欢 73%好评(82人)
评论 52
人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图0 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图1 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图2 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图3 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐截图4
详细信息
  • 软件大小: 48.33MB
  • 最后更新: 2025-01-24 14:18:32
  • 最新版本: update4.8.2
  • 文件格式: apk
  • 应用分类:ios-Android 八重神子撕开内衣 吸奶头小说
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,美女露大乳揉下部秘 18禁,极品校花啪啪啪
二,69仙踪林Xx乂 HD,少妇自慰bb
三,暴艹美女,自慰淫粉嫩美女淫探花
四,欧美老女人自慰,操,91白虎御姐
五,男女操真人版,有亚洲操逼大片吗
六,欧美黑人大鸡巴干骚逼,日韩少妇毛茸茸自慰
七,欧美性爱乂乂乂乂,操女人无遮挡
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
V4.2.5
白丝黄片

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐 6天前
    3P舔阴
  • 爆操她的骚逼 7天前
    男女下体抽查动态图
  • 出国骚妇色色网 8天前
    故意走光XXⅩXXX合集
  • 爆操黑丝美女 3天前
    性欧美婬妇 12岁
  • 扒开美女 狂揉 真人 2天前
    脱了内裤自慰喷水 网站
  • MM131周于希被 喷水视频 1天前
    十八禁疯狂 喷水自慰爽男男
  • 插穴网站 2天前
    美女被爆 羞羞喷水免费
  • 操妹子骚逼喷水视频 1天前
    爆操黑丝美女无套内射
  • 拔擦拔擦x8免费观看视频 7天前
    玉足白虎操
  • 岛国版xXx000性爱 3天前
    艹出水视频