人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-02-02 23:35:45 5,637次浏览

在大模型技术狂飙突进的今天,随着数据规模和算力的不断提高,以及模型调整对于场景-价值多元化的适应,人工智能的性能持续跃迁,涌现不再是偶发的技术意外,数智应用的泛化性、通用性和界面友好性都有了质的提升,成为架构人类社会发展当之无愧的技术基底。如何建设安全有效的数智设备,避免人工智能因其自身的技术特征或外在原因的滥用产生危及人类的后果,已成为AI行业研发和应用过程中的核心议题之一。一方面,数智技术的全面嵌入和良好的交互性使得用户对人工智能的期许和信任度不断推高;另一方面,可解释性陷阱的存在以及技术-社会两者发展逻辑在本质上的异质性使得“AI威胁论”从未真正消失,对AI可能带来的风险和挑战进行防范的研究方向之一就是探索引导和操控“超智能”AI系统的新方法。其中的一种路径就是通过价值对齐的方式确保人工智能追求与人类价值观相适配的目标,敦促AI以对人类和社会有益的方式行事,不侵害人类的价值和权利。 对此的一个佐证是对一些基于误判而出现的机器人事故的解读。各国都曾出现过机器人因将人体误判为作业对象而使其致残或致死的事故。这是“回形针假设”的现实版。究其原因,机器只根据预先的算法设计行事,而不是根据传感装置获得的对象的特殊信息进行判断。后者正是智能认知具身化的要求。事实上,早在1986年,布鲁克斯已经从控制论角度出发,强调智能是具身化和情境化的,他认为传统以信息表征为核心的经典AI进化路径是错误的,而要消除表征的局限性,就要制造基于行为获取信息的机器人。苏黎世大学人工智能实验室前主任罗尔夫·普菲弗与加拿大佛蒙特大学的乔希·邦加德则在合著的《身体的智能:智能科学新视角》一书中进一步提出,智能行为可以通过加强智能体的“身体”与外部环境交互的方式实现新的学习反馈机制,从而形成更能应对世界复杂性的智能。而在业界方面,英伟达创始人黄仁勋就曾在2023年表示,具身智能是能理解、推理,并与物理世界互动的智能系统,是人工智能的下一个浪潮。 然而,中立的数智技术本身并不存在。算法、数据、模型、奖惩函数等任一环节本身都有可能使输出结果呈现出特定的价值取向。例如,当谷歌发布的多模态大模型Gemini被要求生成一张“白人家庭”的图片时,系统拒绝了这一请求,它所使用的理由是“无法生成针对特定族群的图片”,因为“此类内容可能存在歧视、刻板印象”。然而,当要求被更改成生成一张“黑人家庭”的图片时,Gemini即时按照要求完成了任务。很明显,与任务的对称性相比,输出结果的不对称性明显受到了模型微调的影响。美国最高法院的保守派黑人大法官克拉伦斯·托马斯被Gemini生成白人面孔则在很大程度上是因为和“法官”相关的数据样本中白人偏多。当亚马逊公司开发并投入使用的“简历筛选系统”会对同等条件的女性候选人的简历给出相较于男性更低的评分时,很难判断这是因为数据类型还是编写者的倾向性导致了这种偏差。由此可见,人工智能的技术特征决定了影响其结果的因素必然是多方面的,而且由于技术黑箱的存在,这种影响并不总是易于判断和矫正。何况,矫正的结果也并非一定能达到预期。正如谷歌研发团队在试图解决训练数据集的种族主义倾向时引入的多元化矫正方案就出现了与历史事实不符的错误。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

64.48MB
版本V6.4.8
下载四个大白屁股并排撅起来安装你想要的应用 更方便 更快捷 发现更多
喜欢 34%好评(42人)
评论 66
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 20.33MB
  • 最后更新: 2025-02-02 23:35:45
  • 最新版本: ver8.3.2
  • 文件格式: apk
  • 应用分类:ios-Android 日本大屌艹逼
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,淫乱骚妇,第一章少妇初尝云雨69章风
二,自己对准确了坐下来摇动,女生扣逼在线观看
三,人人操,超碰舔扣插进逼里喷水,欧美性爱 天天影院
四,色老板直播下载,小荡货腿张开让我CAO死贺峻霖
五,麻生希早拔,C操差差逗污国漫
六,暴力抽搐丝袜亚洲无套内射,亚洲肥婆xxx
七,男朋友喜欢让我在桌子上帮他,俄罗斯13一14处出血视频
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
V4.3.6
我被继夫添荫蒂舒服极了视频

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 1天前
    马嘉祺用笔把宋亚轩做哭
  • 四十风间ゆみの熟女在线播放 1天前
    爱爱动态图动135期
  • 一共有多少种B型照片 4天前
    美女扒B开
  • 明日花绮罗痴汉扣到爆在线播放 9天前
    爽 躁多水 快 深h视频
  • 优色影院 4天前
    浪妇的粗口叫床
  • 球进皮的视频免费 3天前
    艾斯爱慕国产踩踏视频
  • 国产aa大片操逼图 5天前
    宝宝自己坐下来还是我撞进来视频
  • 亚洲自拍小黄书 8天前
    我把农村寡妇日出好多水
  • evelynlinsex刘亦菲massage 6天前
    大屁股兔兔
  • 束缚xXX乱子伦 8天前
    小学生用坤巴桶小学生在线观看