人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2024-12-28 12:59:39 5,568次浏览

然而,中立的数智技术本身并不存在。算法、数据、模型、奖惩函数等任一环节本身都有可能使输出结果呈现出特定的价值取向。例如,当谷歌发布的多模态大模型Gemini被要求生成一张“白人家庭”的图片时,系统拒绝了这一请求,它所使用的理由是“无法生成针对特定族群的图片”,因为“此类内容可能存在歧视、刻板印象”。然而,当要求被更改成生成一张“黑人家庭”的图片时,Gemini即时按照要求完成了任务。很明显,与任务的对称性相比,输出结果的不对称性明显受到了模型微调的影响。美国最高法院的保守派黑人大法官克拉伦斯·托马斯被Gemini生成白人面孔则在很大程度上是因为和“法官”相关的数据样本中白人偏多。当亚马逊公司开发并投入使用的“简历筛选系统”会对同等条件的女性候选人的简历给出相较于男性更低的评分时,很难判断这是因为数据类型还是编写者的倾向性导致了这种偏差。由此可见,人工智能的技术特征决定了影响其结果的因素必然是多方面的,而且由于技术黑箱的存在,这种影响并不总是易于判断和矫正。何况,矫正的结果也并非一定能达到预期。正如谷歌研发团队在试图解决训练数据集的种族主义倾向时引入的多元化矫正方案就出现了与历史事实不符的错误。 和基于数据科学的人工智能技术的连续性不同,价值的不连续性来源于其自身的特征,从本质上来说它并不是一套精确的规则和条件判断,而更像是一个具有弹性的语法体系,其中包含了很多从历史文化信仰体系中获得的内化性原则,包括但不限于文化倾向、历史习俗、社会信念、群体观念、政治意识形态、地域、宗教、种族、性别甚至职业身份等多重元素。目前大多数科创企业所采取的通过强调匹配不同算法特征及其治理需求的分类治理框架来实现价值对齐的方式,体现为应用环境通过对输入变量赋值进而对输出结果产生影响,如对生成式人工智能进行预训练后的模型微调就属于此类。这种思路由设计者将被预设为普遍性的价值原则嵌入智能自治系统中以形成特定的概念空间,然后根据场景调用。于是,下游应用中的相关符号被赋值,并纳入与该价值原则相关的关系之中。这就是为什么“输出一个白人家庭”的要求会被Gemini拒绝,“白人”作为敏感符号被赋值与种族主义立场相关,而有色人种的要求则不会。这种“价值属性”其实并不是人工智能对人类价值观的理解,只是出于算法编写者的设计。从这个意义上说,价值对齐的叙事编织从根本上说并不反映被假想出来的人机差异,而是关乎人工智能设计和算法治理的问题,更简单地说,它是一个具有自主性的智能体应不应该,以及如何设计的问题。 2024年7月,OpenAI宣布解散超级对齐团队。表面上看,这是OpenAI内部发展不同方面优先级之间竞争失衡和资源分配的结果,但从另一个角度也展现出价值对齐的推进难度。然而,笔者的目的并不在于从技术角度解析现有的价值对齐工具的有限性及其模型风险,而是躬身进入价值对齐理念背后的技术观,揭示其潜在的控制论色彩,解读它所可能导致的对于人机关系的狭隘误读,进而在技术哲学批判的基础上探究它所面对的挑战。因为,恰恰只有抛弃简单乐观的价值移植,重回技术-社会自身发展逻辑,直面其复杂性,才有可能在数智高速飞跃的时代重新为人工智能的发展划定边界和准则,并建构起新型的人机交互和融合的健康模式。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

47.64MB
版本ver4.7.3
下载男同志王伦宝Chinese3安装你想要的应用 更方便 更快捷 发现更多
喜欢 70%好评(40人)
评论 12
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 21.84MB
  • 最后更新: 2024-12-28 12:59:39
  • 最新版本: update7.8.6
  • 文件格式: apk
  • 应用分类:ios-Android 色色色天堂逼逼
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,含羞草实验室隐藏入口轮滑网,纯肉动漫在线观看网站
二,好爽 好紧 宝贝别夹直播,扒开双腿猛进入jk校花小说
三,揉我胸 啊 嗯~啊出水了,国产黃色A片三級三級三級四川
四,汤加丽生殖大图147网站,后入迪丽热巴
五,我被继夫添荫蒂舒服极了视频,丝袜脚搓鸡巴视频
六,一天接23个农民工,女的骚逼被男的大鸡巴操免费视频
七,玉足夹射,极品尤物在线国产jk黑丝高潮
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
V7.6.4
偷看美美裙子里的东西

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 7天前
    日骚逼试看
  • 学生妹白虎无毛自慰 5天前
    日本女同乱伦性爱电影
  • 黑桃BBC群聊记录 5天前
    扒开大腿狠狠挺进动态视频
  • 插拔插拔果冻传媒换妻苏清歌 1天前
    爆操高潮
  • 免费网站 禁app 1天前
    爽 交换 快 高H打桩机漫画
  • 女人的骚穴被爆白浆 4天前
    丝袜JK美女被操
  • (已屏蔽) 1天前
    极品尤物在线国产jk黑丝高潮
  • 把英语老师强奷到舒服动态图 8天前
    PORIN18 17
  • 肌肉男gay后入高清无码网站 4天前
    老女人乱伦
  • 乱伦熟女激情文学 8天前
    美女被男生爆操