我的编程空间,编程开发者的网络收藏夹
学习永远不晚

人工智能延续人类文化,人工智能继承人类偏见

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

人工智能延续人类文化,人工智能继承人类偏见

当前,人工智能作为第四次工业革命中的代表性技术,正在迅速改变我们所认知的世界。然而与此同时,现实世界中,由人所创造、从人类数据中学习观察的人工智能,也常常表现出和人类相似的偏见,不论是招聘中的性别歧视,还是人脸识别下的种族误判。

歧视的发生不仅折射出社会中原就存在的性别陈规与偏见,并且,在设计与营销决策的过程中,人工智能还将进一步放大这些偏见。在科技能量日益增强的当下,思考和解决这些歧视的发生变得越来越重要。

[[388646]]

AI偏见,是人类意志的产物

与随机杂乱、物竞天择的进化过程不同,人工智能是人类意志的产物,是为了达成某种目的而形成的。尽管人工智能作为技术包含着一个客观结构,但人工智能同时服务于人的目的理性活动。也就是说,任何一种人工智能算法在诞生前就已经被概念化,并且在开发的过程中必然伴随着开发者的意志。

然而,从开发者的角度来看,美国劳工局的数据显示,虽然女性在劳动力市场中占了59%的比例,但在科技界往往只有20-30%的女性员工。在与程序开发相关的工作中,网站开发是女性比例最高的职业,但也只有不到40%。

据估计,截至2018年,仅仅在美国就有140万个与计算机相关的就业机会,而女性只会获得这其中29%的工作。人工智能的开发也很自然地继承了从业上的性别不平衡,没有足够的女性样本参与使得人工智能的知识不可避免地出现漏洞,这就是为什么会出现偏差错误的原因。

人工智能Now作为一家研究人工智能对社会影响的研究机构,其研究就表明,男性主导的人工智能产业与其生产的歧视性系统及产品之间有着明显的联系。比如,在机器学习领域里,其偏见的来源就包括不完整的或有偏差的训练数据集、训练模型代入人的标签和偏见,以及算法和技术的缺陷。

当训练数据中缺少某种统计类别时,人工智能习得的模型就无法正确衡量这部分特征。如果训练数据中男性比例过低,这一算法模型应用于男性时就有更大的误差;如果训练数据中关于“医生”的照片大部分是女性,搜索“医生”图片时,算法就会放大女性出现的概率。

于是,当科技从业者们的性别不平衡进一步表现在有偏差的训练数据集里时,性别歧视就出现了。亚马逊的Alexa和苹果的Siri等常见人工智能系统的核心——自然语言处理(NLP)就存在性别偏见,人工智能在词嵌入上的性别偏见,就像单词联想游戏一样。其中,这些系统通常将“男人”与“医生”相关联,将“女人”与“护士”相关联。而这也正是训练样本不完整、不足的典型代表。

从训练模型代入人的标签和偏见来看,绝大多数商业人工智能系统都使用监督机器学习,因此训练数据需要人为打上标签。这个过程中,就难免会有意无意将人的偏见编码到算法模型中。倘若人在设定标签时,将“身材的胖瘦”与“美”联系起来,算法自然会继承这一偏见。

同时,这些偏见在算法和技术的缺陷下进一步被隐匿,当算法和所有人的生活都紧密相关时,算法却以一种所有人都无法理解的方式在黑箱操作。“算法黑箱”带来的某种技术屏障使得无论是程序错误,还是算法歧视,在人工智能的深度学习中,都变得难以识别。偏见也因而无从解释。

此外,正是由于科技行业女性的低比例,使得科技行业弥漫的性别偏见难以打破、研发出来的人工智能产品折射出来的男尊女卑的“女性观”得不到纠偏。这种物化女性、加固性别刻板印象的趋势则进一步打击了女性进入科技界的意愿。从开发到应用,性别的歧视就在这样的不良循环里存在着,随时发生着。

[[388647]]

适时纠偏,重建技术公平

当前,偏见、歧视、错误都是人工智能进步的必经之路,其前提是人们能够在意识到偏见存在时做出改变,适时纠偏。

显然,人工智能算法由人类开发,被人类使用。开发者们的价值观和偏见都将对算法造成极大影响。这也是为什么社会需要更多的女性科研人员参与人工智能的设计,甚至是将女性用户的需求以及尊重性别平等的理念融入到人工智能的系统里的重要原因。

从技术开发的过程来看,不公正的数据集则是偏见的土壤——如果用于训练机器学习算法的数据集无法代表客观现实情况,那么这一算法的应用结果往往也带有对特定群体的歧视和偏见。事实上,算法存在的前提就是数据信息,而算法的本质则是对数据信息的获取、占有和处理,在此基础上产生新的数据和信息。简言之,算法是对数据信息或获取的所有知识进行改造和再生产。

由于算法的“技术逻辑”是结构化了的事实和规则“推理”出确定可重复的新的事实和规则,以至于在很长一段时间里人们都认为,这种脱胎于大数据技术的算法技术本身并无所谓好坏的问题,其在伦理判断层面上是中性的。

然而,随着人工智能的第三次勃兴,产业化和社会化应用创新不断加快,数据量级增长,人们逐渐意识到算法所依赖的大数据并非中立。它们从真实社会中抽取,必然带有社会固有的不平等、排斥性和歧视的痕迹。因此,算法偏见最直接的解决思路就是将原本不均衡的数据集进行调整。

[[388648]]

比如,确保训练样本的多样性,在训练数据中使用与男性数量相近的女性样本,确保给样本打标签的人们有着多元化的背景等。

2018年,微软就曾与专家合作修正和扩展了用于训练Face API的数据集。Face API作为微软Azure中的一个API,提供预训练算法以检测、识别和分析人脸图像中的属性。新数据通过调整肤色、性别和年龄等所占的比例,将肤色较深的男性和女性之间的识别错误率降低20倍,女性的识别误差率则降低9倍。

此外,也有公司尝试通过构建全球社区,大规模地把某个组织可能在寻找的任何信息汇集起来,并以这种广度和深度相结合的方式进行,这使得引入截然不同的数据来训练人工智能系统成为可能,以帮助克服算法偏见等问题。

毋庸置疑,构建更加公正的数据集是算法偏见重要的解决方法之一,在此基础上,还可以应用新的机器学习去除偏见的技术。比如,哥伦比亚大学的研究者曾开发的一款名为DeepXplore的软件,就可以通过技术手段使得系统犯错,以暴露算法神经网络中的缺陷。

DeepXplore使用差分测试,通过以不同的方式看待事物。如果其他模型都对给定的输入做出一致的预测,而只有一个模型对此做出了不同的预测,那么这个模型就会被判定有一个漏洞的方法,为打开黑箱做出了重要的贡献。

此外,2018年,谷歌也曾推出新工具What-If,作为TensorBoard中用于检测偏见的工具。利用该工具,开发者可以通过交互式可视界面和反事实推理探究机器学习模型的特征重要性,找出误分类原因、确定决策边界,检测算法公平性等。

显然,现实社会中的偏见产生的原因盘根错节,技术作为一面镜子,映射了人类社会许多固有的偏见。尽管长期以来,人们都一直致力于消除偏见,但人们至今也尚未彻底将其消灭。

偏见作为生活中不可避免的事实而存在着,但这并不意味着偏见和歧视也是新技术不可避免的方面。人工智能作为第四次工业革命中的代表性技术,始终有机会重新开始纠正偏见。技术由人类开发,为人类服务,而能否创造对每个人都有效和公平的技术,从来都取决于人类,而不是机器。

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

人工智能延续人类文化,人工智能继承人类偏见

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

人工智能延续人类文化,人工智能继承人类偏见

当前,人工智能作为第四次工业革命中的代表性技术,正在迅速改变我们所认知的世界。然而与此同时,现实世界中,由人所创造、从人类数据中学习观察的人工智能,也常常表现出和人类相似的偏见,不论是招聘中的性别歧视,还是人脸识别下的种族误判。
人工智能2024-12-03

人工智能如何增强现有的人类偏见?

人工智能驱动的系统的决策仅反映用于模型训练的输入数据的类型。因此,如果 AI 模型吸收的数据集具有歧视性,则输出推荐或决策将遵循相同的趋势。

人工智能与人类

欢迎各位阅读本篇,人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。本篇文章讲述了人工智能与人类,编程学习网教育平台提醒各位:本篇文章纯干货~因此大家一定要认真阅读本篇文章哦!
人工智能与人类
2024-04-23

智能的本质:人类智能与人工智能

计算机为何能够表现出智能?计算机智能与人类智能有何异同与联系?当我们说到智能的时候,其内涵是指什么?人工智能是否可以模拟出人类智能?智能的本质到底又是什么?

人工智能会代替人类吗?

上海抗疫期间,学习受到了影响。同时思考了一些平时不会去思考的哲学问题。结合自己的学习知识和专业,对“人工智能会代替人类吗?”这个问题思考良久,著文以飨读者。

人工智能,赋能人类美好生活

新一代人工智能的蓬勃发展,成为科技创新和产业推动产业升级转型的重点,为经济社会发展注入了新的动能,深度学习、知识推理、人机协同、群智开放等等,形成新的发展空间,深刻地改变着人们的生产生活方式。
人工智能AI2024-12-02

人工智能和人类智能的差距在哪里?

阿拉法狗战胜李世石后,大家都在说,人类智能的最后一片高地也被人工智能攻陷了。人类积累2000多年的围棋智慧,被一个程序轻易打败,那么未来人工智能是否会取代人类成为这个星球上的主宰者呢?

人们应该了解的六种人工智能偏见

机器学习模也是如此。他们并不使用感官来感知,而是使用数据来学习——是人类提供的数据。这就是用于训练机器学习模型的数据尽量避免偏见变得至关重要的原因。

人工智能奇点与人类未来

  “奇点”是描述人工智能(AI)及其社会影响未来前景的重要概念。推动AI进一步发展而趋近奇点,将AI奇点可能带来的危机转化为机遇,开启人类美好未来,这一切都亟待哲学社会科学与自然科学在葆有现实感、历史感的基础上相向而行。

人类智能VS人工智能 哪个能更胜一筹

人工智能有可能在不久的将来超越人类智能。尽管技术取得了巨大进步,但人工智能仍远未完成。人类智能的目标是通过不同的认知过程从经验中学习并适应新环境,而人工智能的目标是模仿和超越人类的行为。

AI与人:人工智能不断优化,而人类不断进化

人工智能没有生命。人工智能无法进化,却可以迭代优化,但这不是进化。进化是在特定环境中的随机突变。
AI人工智能2024-12-03

人工智能对我们人类的影响

欢迎各位阅读本篇,人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。本篇文章讲述了人工智能对我们人类的影响,编程学习网教育平台提醒各位:本篇文章纯干货~因此大家一定要认真阅读本篇文章哦!
人工智能对我们人类的影响
2024-04-23

人工智能对人类未来的意义

人工智能正在产生重大影响的一个领域是医学领域。人工智能正被用来开发新的治疗方法,改进诊断,并简化病人护理。例如,人工智能算法可以分析医学图像以检测疾病的早期迹象,允许医生在病情变得更严重之前进行干预。
人工智能AI2024-11-30

人工智能与人类思维的异同

关于人的思维(包括理性与心灵)究竟是什么的问题,一直是困扰哲学巨匠与科学大师的难题。虽然哲学两千年来对此有过很多推测,但都不能自圆其说,最终都只能去拜神或变相拜神了。科学对人脑的探索,目前也还希望渺茫。

打败人类的是自己,人工智能将打败人类

应了那句话,打败自己的往往就是自己,人类自己造的机器,学习能力远超人类,而在这个时代,学习就是一切。人类最终将被自己造出来的东西打败。

人工智能如何帮助人类的可持续发展

人工智能提供预测分析、数据驱动的决策,还可以实现自动化,从而提高利用率,减少对环境的影响。人工智能将在未来继续提供更多的应用,因此人工智能在发展有弹性和环境友好型社会以实现可持续未来方面的重要性将会大大增加。
人工智能AI2024-11-29

超级人工智能会毁灭人类吗?

本文为George Dvorsky对超级人工智能的看法:我相信,机器智能将是人类种下的最后祸根。

人工智能永远取代不了人类

现在人工智能已经越来越普及了,一个简单的指令就能帮我们解决掉许多问题。以前提前设定好多个闹钟还要担心闹钟会不会响,现在简单的一句指令就能放心大胆的睡,还不用担心第二天是否会起晚。

人工智能会威胁人类生存吗?

人工智能的实践和应用在目前取得的成果基本上还是停留在一个非自主意识的弱人工智能阶段,机器实现自我意识不是在短时间内就可以达到的,我们能做的是不断提升技术,优化算法,不断提升机器学习和辅助的能力。
人工智能AI2024-12-14

人工智能真的会取代人类工作吗?

今年以来,新冠疫情的持续蔓延令全球经济低迷,不少国家和地区的失业率居高不下。仅以香港为例,最新的失业率统计维持6.4%,属近16年来的高位。不过比起因疫情带来的失业率上升,人工智能科技的迅猛发展,使不少行业和工种面临被智能化取代的风险,则更

编程热搜

  • Python 学习之路 - Python
    一、安装Python34Windows在Python官网(https://www.python.org/downloads/)下载安装包并安装。Python的默认安装路径是:C:\Python34配置环境变量:【右键计算机】--》【属性】-
    Python 学习之路 - Python
  • chatgpt的中文全称是什么
    chatgpt的中文全称是生成型预训练变换模型。ChatGPT是什么ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列
    chatgpt的中文全称是什么
  • C/C++中extern函数使用详解
  • C/C++可变参数的使用
    可变参数的使用方法远远不止以下几种,不过在C,C++中使用可变参数时要小心,在使用printf()等函数时传入的参数个数一定不能比前面的格式化字符串中的’%’符号个数少,否则会产生访问越界,运气不好的话还会导致程序崩溃
    C/C++可变参数的使用
  • css样式文件该放在哪里
  • php中数组下标必须是连续的吗
  • Python 3 教程
    Python 3 教程 Python 的 3.0 版本,常被称为 Python 3000,或简称 Py3k。相对于 Python 的早期版本,这是一个较大的升级。为了不带入过多的累赘,Python 3.0 在设计的时候没有考虑向下兼容。 Python
    Python 3 教程
  • Python pip包管理
    一、前言    在Python中, 安装第三方模块是通过 setuptools 这个工具完成的。 Python有两个封装了 setuptools的包管理工具: easy_install  和  pip , 目前官方推荐使用 pip。    
    Python pip包管理
  • ubuntu如何重新编译内核
  • 改善Java代码之慎用java动态编译

目录