人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-01 10:47:51 4,787次浏览

美国计算机应用专家戴维·波尔特在《图灵人:计算机时代的西方文化》一书中以“图灵人”的具身化比喻,将计算机的工具理性原则所塑造的技术无意识的社会化和个人化生动地表达了出来。“图灵人暗示人与信息、工作、权力和自然的关系……计算机把人界定为‘信息处理器’,把自然定义为信息处理的对象”。整个世界的加速数字化(然而却并不均衡)使得数字技术形成了一种连续性的基础,将一切人、机器、制度整合进了“万物互联”之中,以至于不但很难再将属于数字技术的工具理性和衡量标准从事物中剥离出来,甚至连认知都受到了新的知识生产范式的影响。纷繁复杂的世界以一种追求确定性的方式被某种形式上的一致性所连缀,它仿佛陀思妥耶夫斯基笔下的由钢铁和玻璃建造起来的巨大的、无缝笼罩的水晶宫,透明夺目,令人惊叹,将一切的复杂性都吸收到自己的内部,赋予其中的一切以抽象且匀质的合法性。只不过在今天,这个数字化的“水晶宫”的建筑材料是0和1,物理形状上无所不包的穹顶则被无数的连接所形成的扁平结构所取代。这个以1862年伦敦万国博览会展馆为原型的关于世界的隐喻,“已经为集中的、体验为导向的、大众化的资本主义(尤其是数字资本主义——本文作者注)做好了物质准备,广泛地将外部世界吸收到一个完全精确计算的内部空间里来。……它的维度足够大,以至于也许人们根本不用再离开它了”。 所谓的人工智能的“奇点”的到来,在很大程度上反映了人类在自己的创造物的强大性能面前的不安。如果说在前智能时代,机器技术体系在力量、复杂性、精密度方面的超越还只是局部功能的增强,不足以引起人对引以为傲的本质——思考/理性的担忧,那么生成式人工智能在知识生产、理性设计、语义逻辑乃至可以带有情绪性表达的自然语言处理方面展现出来的卓绝能力让作为创造者的人类在内心再一次感受到了新版的“机器人威胁论”——AI威胁论。对可能失去控制的担忧让设计者期待以某种方式重新赢回决定权,于是,人工智能设计和治理又一次处在更深的“恐惑谷”的悖论境地:一方面,整个人工智能的发展过程一直以类人性作为超人性的基础,从任务实现到输出方式、到理解能力都希望有明确的可解释性、与人类保持一致性,哪怕在外观的设计上也从未放弃过“人形智能机”的设想;另一方面,这种类人性和超人性发展得越好,人类自身就越恐慌,尤其当最新的生成式人工智能突破了“波兰尼困境”,在多模态知识生产上已经可以依赖网络文本数据库和大模型技术实现自我生产的时候,不但人类心理上的恐慌越发严重,治理过程中所面临的风险也更加多元化和强化。抵抗不安感的最好武器是规范性。价值对齐的目标正是以建构规范性价值倾向来实现人工智能治理。然而,这里仍然存在另一个悖论,即“算法的价值倾向性越小,其越多以功能服务模式体现为满足单一确定目标的中立性工具职能,并因此只涉及线性且结果导向的治理要求;算法价值倾向性越大,其越多以画像评价模式体现为针对不同目标进行选择排序以作出价值性评估”。可见,价值倾向度的增加在一定程度上与功能的通用性之间呈现出反向趋势。因此,到底有没有可能以规范性的总体策略解决多元化的风险,并没有肯定的答案。比起价值嵌入,尽管价值对齐的措辞稍显缓和,但它依旧遵循了以人类社会取向干预或改造人工智能技术的规范性塑造路径。对于这一方法,“既有的技术治理史表明,总体策略在现实中并非没有人坚持,事实上不少技治主义者的头脑中均带有总体主义的主观性,但结果在实践中收获的均为局部和具体的技治推进,根本没有实现过各个微小技治系统的完全统一协作。从这个意义上,可以说总体策略均以失败告终”。或者,更简单地说,算法治理的目的和结果都不是简单地价值对齐,它需要重新衡量技术实现和应用中的具体问题。因为所谓的价值对齐,并不是通过增加价值矢量和奖惩指数就可以实现的,它涉及到数据爬取和清洗、算法设计和测试,到应用场景的每一个细节,并且它和技术算力之间也不完全是正向关系。例如,“在使用RLHF(reinforcement learning with human feedback,基于人类反馈的强化学习)进行价值观对齐时,)对齐行为无形中为AI大模型的能力涌现戴上了‘紧箍咒’,)以牺牲模型能力的方式来换取价值观对齐” 。OpenAI超级对齐团队的解散就真实地反映了这种冲突的强度,团队负责人在后来发表的个人声明中一再强调由于公司将产品性能置于价值对齐之前,以至于团队获得的计算和数据资源并不足够。这说明,尽管价值对齐的结果和成效尚处于难以评估的状态,但其依赖于社会预测和强反馈以及偏好排序的控制论做法,本身就是在算力上缺乏执行的可靠基础。 这种二元对立与价值对齐背后的心理机制如出一辙,都体现了对智能对象的控制化叙事——无论是最初的简单工具化还是后来以辨别(《仿生人会梦见电子羊吗》)或拯救(价值对齐)的方式来重新赢回控制权的可能。菲利普·K.迪克以反讽的方式对人类的这一核心特质和潜在的优越性进行了颠覆:其一,在他的笔下,仿生人蕾切尔不但几乎通过了测试,甚至展现出对同类仿生人的移情,而这正是人类无论如何也做不到的。不仅如此,小说中的真正人类,不管是其他的仿生人追捕者,还是男主人与其妻子,彼此之间都以自身为中心,缺乏理解和关切。在两相对照下,移情作为被人普遍相信的区分特征的地位摇摇欲坠。其二,在小说的第十八章,移情共鸣箱被揭露为是一个巨大的骗局,它所表现出来的融合感以及测试量表的标准不过是一种人为的编织和表演。于是,无论是根据“移情”与否所进行的对仿生人的猎捕,还是关于“移情”本身的神话,都不过是维护人类居上位的优越感制造出来的叙事。它可以是“移情”,也可以是人类假设人工智能不具有或无视其具有(正如将智能装置设想为价值“中立”的空心体一般)的其他特质。当用这种特质对客体进行判断的时候,往往和客体的真实情形无关,而仅仅和据此做出结论的预设有关。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

27.68MB
版本build5.2.8
下载两男一女亚洲久草安装你想要的应用 更方便 更快捷 发现更多
喜欢 34%好评(43人)
评论 57
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 47.94MB
  • 最后更新: 2025-01-01 10:47:51
  • 最新版本: snapshot5.6.9
  • 文件格式: apk
  • 应用分类:ios-Android 美女裸阴光腚动态图
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,学生妹性爱,内射骚逼反差
二,我淫我色成人艺术,996免费看少妇高潮A片
三,极品美女杨晨晨掀开JK裙子,寂寞影院操按摩女郎
四,欧洲美女自慰喷水,纲手裸乳被爆 白浆的视频
五,Www.ccoo11.com,猛男办公室疯狂大战欲女丩
六,男女插插,jiZZ18女人高潮zzji
七,久久综合调教强奸网,亚洲 老夫妇
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
beta6.3.5
妓女吞精囗交视频

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 2天前
    操的很爽
  • 国产农村熟妇出轨videos 7天前
    欧美女郎性爱视频
  • 艹 屄 6天前
    操大奶子骚逼
  • 网红女神璃奈酱神鲍扒开特写 4天前
    肉色满园高HNP限by银月当空
  • 大屁股大奶骚妇乱伦中文视频 7天前
    拔插拔插十八禁皇冠华人永久免费
  • 裸体美女啪啪喷水无遮挡 7天前
    【户外露出】长相甜美小姐姐户外商场外围休息区露出 张开肉丝美腿 露出蕾丝透
  • 骚逼大奶 无码 5天前
    o1h老太做受Chⅰnese
  • 日韩干逼 6天前
    极品华人永久在线淋
  • 大鸡巴操得美淫水直流!高潮不断大鸡巴内射骚逼 1天前
    和中国美女操逼
  • 韩国电影年轻的岳母 4天前
    真实偷拍激情啪啪对白