人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2024-12-28 15:16:15 1,611次浏览

这种话语对人工智能技术发展全过程中的价值性因素视而不见,代之以一种抽象性的人机价值差异,这其实是对人工智能输出结果的不如人意的解释,也是对发生问题的边界的设定。在界定中,抽象的“人类”价值和正确性的场域得以确保,但不是以本质主义的方式(因为价值的多元化),而是以价值排他性的方式将人工智能的“问题”建构为一种绝对意义上的外在,关于价值的讨论只逡巡在人机的边界之上,不向人类内部返回。这既反映了对人类智能与人工智能关系进行简化的理论惰性,也召唤了古老的价值殖民方式的回归。价值对齐隐含的“人类价值”预设以一种一元论的方式制造了作为操控性主体的单一基质和连续性,而“对齐”过程则被理解为由这个主体发起的单向过程,丝毫没有意识到在已经建构起来的社会历史中的价值无意识和不平衡的数据分布对人工智能技术的影响。价值对齐强调的始终是主体形而上的尊位,它有权决定“嵌入”“对齐”或视若无睹。然而,越是承认数字技术所具有的自治性,就越应该意识到所谓问题的解决不是(也绝不可能是)价值对齐这种“由主体发起并最终导致一系列固定后果的因果过程”。人工智能表现出来的价值“错位”不仅发生在技术形成到应用的整个流程中,而且如前所述,其本身也是一个基于复杂性因素不断叠加的过程。当然这并不是说对人工智能输出中那些令人不安的问题不能进行治理,只是价值对齐这样的措辞会基于错误的人机关系设想而夸大人类主体的能动性,并误导不合理的解决方式。如在数据治理过程中存在的工具理性与价值理性之间价值导向层面的矛盾,是不是仅靠价值移植就能解决,其本身就存在疑问。而要在数字化、智能化转型的浪潮中加快推动符合人文主义价值的数字生态治理机制,则需要从正视人工智能和人类智能的关系开始,进而深入分析问题的成因。 所谓的人工智能的“奇点”的到来,在很大程度上反映了人类在自己的创造物的强大性能面前的不安。如果说在前智能时代,机器技术体系在力量、复杂性、精密度方面的超越还只是局部功能的增强,不足以引起人对引以为傲的本质——思考/理性的担忧,那么生成式人工智能在知识生产、理性设计、语义逻辑乃至可以带有情绪性表达的自然语言处理方面展现出来的卓绝能力让作为创造者的人类在内心再一次感受到了新版的“机器人威胁论”——AI威胁论。对可能失去控制的担忧让设计者期待以某种方式重新赢回决定权,于是,人工智能设计和治理又一次处在更深的“恐惑谷”的悖论境地:一方面,整个人工智能的发展过程一直以类人性作为超人性的基础,从任务实现到输出方式、到理解能力都希望有明确的可解释性、与人类保持一致性,哪怕在外观的设计上也从未放弃过“人形智能机”的设想;另一方面,这种类人性和超人性发展得越好,人类自身就越恐慌,尤其当最新的生成式人工智能突破了“波兰尼困境”,在多模态知识生产上已经可以依赖网络文本数据库和大模型技术实现自我生产的时候,不但人类心理上的恐慌越发严重,治理过程中所面临的风险也更加多元化和强化。抵抗不安感的最好武器是规范性。价值对齐的目标正是以建构规范性价值倾向来实现人工智能治理。然而,这里仍然存在另一个悖论,即“算法的价值倾向性越小,其越多以功能服务模式体现为满足单一确定目标的中立性工具职能,并因此只涉及线性且结果导向的治理要求;算法价值倾向性越大,其越多以画像评价模式体现为针对不同目标进行选择排序以作出价值性评估”。可见,价值倾向度的增加在一定程度上与功能的通用性之间呈现出反向趋势。因此,到底有没有可能以规范性的总体策略解决多元化的风险,并没有肯定的答案。比起价值嵌入,尽管价值对齐的措辞稍显缓和,但它依旧遵循了以人类社会取向干预或改造人工智能技术的规范性塑造路径。对于这一方法,“既有的技术治理史表明,总体策略在现实中并非没有人坚持,事实上不少技治主义者的头脑中均带有总体主义的主观性,但结果在实践中收获的均为局部和具体的技治推进,根本没有实现过各个微小技治系统的完全统一协作。从这个意义上,可以说总体策略均以失败告终”。或者,更简单地说,算法治理的目的和结果都不是简单地价值对齐,它需要重新衡量技术实现和应用中的具体问题。因为所谓的价值对齐,并不是通过增加价值矢量和奖惩指数就可以实现的,它涉及到数据爬取和清洗、算法设计和测试,到应用场景的每一个细节,并且它和技术算力之间也不完全是正向关系。例如,“在使用RLHF(reinforcement learning with human feedback,基于人类反馈的强化学习)进行价值观对齐时,)对齐行为无形中为AI大模型的能力涌现戴上了‘紧箍咒’,)以牺牲模型能力的方式来换取价值观对齐” 。OpenAI超级对齐团队的解散就真实地反映了这种冲突的强度,团队负责人在后来发表的个人声明中一再强调由于公司将产品性能置于价值对齐之前,以至于团队获得的计算和数据资源并不足够。这说明,尽管价值对齐的结果和成效尚处于难以评估的状态,但其依赖于社会预测和强反馈以及偏好排序的控制论做法,本身就是在算力上缺乏执行的可靠基础。 [5]贾开,)赵静.技术嵌入、价值倾向与算法分类治理[J].经济社会体制比较,)2023(4):101-111.该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

29.62MB
版本V4.8.2
下载亲爱的老师6中字大豆行情网液晶安装你想要的应用 更方便 更快捷 发现更多
喜欢 94%好评(19人)
评论 73
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 97.67MB
  • 最后更新: 2024-12-28 15:16:15
  • 最新版本: beta3.6.4
  • 文件格式: apk
  • 应用分类:ios-Android 肏美女白浆
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,妈妈的朋友5高请视频,青春草视频免费观看
二,麻豆天堂岛,白丝吞精后入
三,干浪屄网,太紧了夹得我的巴好爽欧美
四,国产学生妹高跟丝袜足交视频,caopo999
五,好爽 好紧 宝贝别夹直播,大胆人体艺术毛茸茸
六,剧场 推油少年,日本裸外网
七,91 大奶,国产小艹
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
alpha3.9.1
仙踪林精品zzlgled

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 6天前
    拍拍阴口
  • 国产学生妹高跟丝袜足交视频 5天前
    美女喷水内射吃鸡吧大屁股大胸
  • 无毛粉逼操逼 2天前
    美臀丝袜艺术无码
  • 天拉好611B5B 5天前
    小攻把小受做到失禁
  • 雷狮把安迷修淦尿了 9天前
    瑟瑟爱操骚逼逼逼
  • 翘臀美女xx00后进式在阳台图 4天前
    52精品偷拍17C
  • haole006.com 8天前
    白领性奴毌狗
  • 亚洲大鸡巴操逼 2天前
    禁用软件404网站入口在哪里
  • 原创性感女友被疯狂抽插到高潮 1天前
    黑丝狂干熟女
  • 另类淫妻在线 5天前
    国产性猛交 XX 乱动漫