人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-24 09:17:30 4,915次浏览

价值对齐反映了对人类智能与人工智能关系进行简化的理论惰性,其本质潜藏着一种价值维度上的人类中心主义投射,同时也体现了人类在技术自治性面前的不安感。价值对齐是一种企图将所有的技术-社会的复杂性问题都置于“价值偏差”的系统性盈余中予以整体性解决的技术治理方法。然而,将人类价值观嵌入人工智能系统,一方面会使得技术的发展成为最小化人类责任的借口;另一方面,这种话语以一种抽象性的人机价值差异掩盖了人工智能技术发展全过程中的价值性因素,从而以价值排他性的方式将人工智能的“问题”建构为一种绝对意义上的外在,使得关于价值的讨论只逡巡在人机的边界之上,而不向人类内部返回。从这个意义上来说,人工智能已经建构起来的社会历史中的价值无意识和不平衡的数据分布现实,是一个关于“具有自主性的智能体应该和不应该被如何设计”的问题。因此,人工智能的价值判断基础应当由外在的价值嵌入转向具身认知和知觉能力的形成。只有通过有效的人机交互与环境感知,打造开放式人机生态体系,鼓励开发与人类处于更广泛的目的分享和责任分担的人工智能,才能防范由技术所导致的任何形式的垄断。 这无疑是一个看起来很美好的目标。它寄希望于在意图和价值观方面对人工智能进行“类人驯化”,以使其达到从意义上理解人类行为和选择并予以遵从的目的。简单来说,就是使建立在庞大的、多元化数据集基础上的大模型预训练结果既合法又合乎道德。从业界在这方面的努力来看,2023年7月,AIGC的领军企业OpenAI宣布成立一个新的AI对齐团队,这个超级对齐团队(superalignment)的目标是在4年内让超级AI系统实现价值对齐和安全。为此,OpenAI承诺将投入20%的计算资源用于对齐超级智能,而项目的核心则是训练出一个大致与人类智识水平相当的AI自动对齐研究员,再借助自动对齐研究员找出对齐超级智能的方法。除此之外,谷歌、微软等公司也都纷纷跟进,成立了类似团队,将价值对齐作为寻求人工智能安全性和一致性的重要途径之一。一时之间,价值对齐的口号风头无两。 可见,人工智能技术从来不是一个独立于人类智能之外的系统,相反,它从开发、形成到测试及至运用的整个过程都浸润在人类的行为和经验之中。这些经验和事实未必只受到数字化或互联网的左右,它们是人类社会内部所包含的历史、文化、习俗乃至偏见或冲突的投射。完全“责任主体”的认定在人工智能技术的实施过程中难以确定,这也就使得价值“嵌入”或“对齐”的目标是否可以通过研发团队一揽子解决本身就是存疑的。从结果上来看,当谷歌试图为确保Gemini避免过去图像生成技术的陷阱而进行调整时,显然因为某种忽视而造成了过度输出或过度保守的后果。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 /
杰里斯女篮

杰里斯女篮

西女甲 | 2024-11-17 19:00
0
-
0

格尔尼卡女篮

格尔尼卡女篮

分析数据赛程

直播信号

赛事信息

北京时间:2024年11月17日 19:00分,西女甲【杰里斯女篮VS格尔尼卡女篮】准时开始,喜欢看西女甲比赛的朋友可以提前收藏本页面以免错过直播。还为您在本页面索引了相关西女甲直播、杰里斯女篮、格尔尼卡女篮直播的近期比赛列表以及两队历史交锋、两队最新比赛赛程。本站不参与制作、不存储,资源由热心网友提供信号源

相关标签

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-24 09:17:30 2,418次浏览

价值对齐反映了对人类智能与人工智能关系进行简化的理论惰性,其本质潜藏着一种价值维度上的人类中心主义投射,同时也体现了人类在技术自治性面前的不安感。价值对齐是一种企图将所有的技术-社会的复杂性问题都置于“价值偏差”的系统性盈余中予以整体性解决的技术治理方法。然而,将人类价值观嵌入人工智能系统,一方面会使得技术的发展成为最小化人类责任的借口;另一方面,这种话语以一种抽象性的人机价值差异掩盖了人工智能技术发展全过程中的价值性因素,从而以价值排他性的方式将人工智能的“问题”建构为一种绝对意义上的外在,使得关于价值的讨论只逡巡在人机的边界之上,而不向人类内部返回。从这个意义上来说,人工智能已经建构起来的社会历史中的价值无意识和不平衡的数据分布现实,是一个关于“具有自主性的智能体应该和不应该被如何设计”的问题。因此,人工智能的价值判断基础应当由外在的价值嵌入转向具身认知和知觉能力的形成。只有通过有效的人机交互与环境感知,打造开放式人机生态体系,鼓励开发与人类处于更广泛的目的分享和责任分担的人工智能,才能防范由技术所导致的任何形式的垄断。 这无疑是一个看起来很美好的目标。它寄希望于在意图和价值观方面对人工智能进行“类人驯化”,以使其达到从意义上理解人类行为和选择并予以遵从的目的。简单来说,就是使建立在庞大的、多元化数据集基础上的大模型预训练结果既合法又合乎道德。从业界在这方面的努力来看,2023年7月,AIGC的领军企业OpenAI宣布成立一个新的AI对齐团队,这个超级对齐团队(superalignment)的目标是在4年内让超级AI系统实现价值对齐和安全。为此,OpenAI承诺将投入20%的计算资源用于对齐超级智能,而项目的核心则是训练出一个大致与人类智识水平相当的AI自动对齐研究员,再借助自动对齐研究员找出对齐超级智能的方法。除此之外,谷歌、微软等公司也都纷纷跟进,成立了类似团队,将价值对齐作为寻求人工智能安全性和一致性的重要途径之一。一时之间,价值对齐的口号风头无两。 可见,人工智能技术从来不是一个独立于人类智能之外的系统,相反,它从开发、形成到测试及至运用的整个过程都浸润在人类的行为和经验之中。这些经验和事实未必只受到数字化或互联网的左右,它们是人类社会内部所包含的历史、文化、习俗乃至偏见或冲突的投射。完全“责任主体”的认定在人工智能技术的实施过程中难以确定,这也就使得价值“嵌入”或“对齐”的目标是否可以通过研发团队一揽子解决本身就是存疑的。从结果上来看,当谷歌试图为确保Gemini避免过去图像生成技术的陷阱而进行调整时,显然因为某种忽视而造成了过度输出或过度保守的后果。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

23.19MB
版本snapshot6.7.2
下载被各种道具玩到合不拢腿安装你想要的应用 更方便 更快捷 发现更多
喜欢 84%好评(43人)
评论 72
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 72.68MB
  • 最后更新: 2025-01-24 09:17:30
  • 最新版本: beta4.6.3
  • 文件格式: apk
  • 应用分类:ios-Android 日本美女白虎穴
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,美女姐姐操逼内射后入大奶无套,色噜噜A√老色鬼拍天堂
二,白虎小萝莉操逼影视,国产╳╳╳╳
三,国产肛交肏逼视频,干穴视频
四,91色女生网站,美女被男人的坤巴抽插动漫
五,嘿嘿射尤物,老狼二区忘忧草欢迎您大豆
六,月球上的裸体,猛C摸N高潮H片
七,欧美3d汉化全彩3d欧美在线,纲手被自来也爆naruto个
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
V2.6.9
俄罗斯插逼网站

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 6天前
    夜场女百度影音
  • 黄色操逼照片 6天前
    FREE性雏女DEO第一次摘花
  • 操逼喷水 2天前
    自拍色图
  • AWAZLIK SIKIXIX HAKSIZ 4天前
    法国人与动zoz0z0z0
  • 偷看男生大jiji秘 免费网站 2天前
    极品大学生美女啪啪
  • 老师把筷子放进我p眼里的作文 4天前
    快手老熟女丽丽自慰大秀
  • 欧美多人片高潮野外做片黑人 1天前
    91凸凹梦爽人人星黑人巨大
  • 大屌网址 9天前
    激情啪啪啪91
  • 美女校花 张开腿让我 图片 7天前
    幼射hd交中国妇
  • 爱爱911 6天前
    操欧洲美女

近5次交锋

杰里斯女篮近5场比赛

格尔尼卡女篮近5场比赛