人工智能可能只是代码,但它是我们的代码
这是12月初在纽约举行的人工智能峰会上举办的一个小组讨论的主题,该小组重点关注人工智能在金融服务领域新兴角色的风险,但讨论对所有行业都有广泛的影响。(我有机会共同主持会议,并主持小组讨论。
"我们认为人工智能正在告诉我们一些东西,但事实并非如此,"Aible首席技术官Rod Butters警告说。"这只是一堆代码。它不知道。这是我们所有人都陷入的幻想。不知何故,我们认为该模型已经体现了某些东西。现实情况是,人工智能只是一个统计引擎,在很多情况下,它是一个糟糕的统计引擎。
如今,有了人工智能,"人工智能是人造概念中最大的系统性风险,"Agentic Group的创始人兼董事总经理、世界伦理数据基金会(World Ethical Data Foundation)顾问委员会成员Rik Willard说。"这一切都是人类完成的。这一切都由人类表现出来。当我们研究风险与回报时,它只与金融机构以及这些机构周围的监管框架一样好。我们是支持我们在技术之前建立的相同的人类和经济算法,还是我们正在努力使这些算法更好,更具包容性?"
此外,人工智能仍然是一项相对不成熟的技术,AntWorks全球金融服务副总裁Drew Scarano说。"十年前,我们甚至没有谈论人工智能,但今天,这是一个价值数十亿美元的行业,"他说。斯卡拉诺说。"我们可能过于依赖这项技术,忘记了循环中的人类,以及他们如何在补充人工智能方面发挥不可或缺的作用,以获得预期的结果。
另一个挑战是人工智能系统倾向于在相对孤立的情况下构建。巴特斯警告说,人工智能只是代码,构建这些系统的人对其对业务的价值的看法可能有限。"当我们告诉数据科学家出去创建一个模型时,我们要求他们成为一个读心者和算命先生,"他说。"这是两个糟糕的工作集,它不起作用。数据科学家试图做正确的事情,创建一个负责任和可靠的模型,但基于什么?最终,当他们建立一个模型时,除非他们有这种组合来创造透明度,创造可扩展性,实际上在战略和战术上将其传达给业务群体,谁负责?仅仅创建一个伟大的模型并不一定能解决所有问题。
Scarano说,在构建数据模型的过程中,数据科学家需要了解企业的目标,同时考虑到对人类的影响。"你可以让工程师建造一座伟大的桥梁。因此,如果它没有超越它的意图,它只是一座伟大的桥梁,对吧?我担心商界人士,尤其是金融服务业人士。只会继续过分依赖技术。我们需要一种与人类共存的整体方法。
Scarano敦促,超越人工智能的技术和统计数据,专注于最终为客户提供服务的产品。"这是关于我们如何用人工智能来补充人类来推动业务,并在一天结束时推动客户现实,客户成功和客户满意度。
小组成员一致认为,人工智能为业务目标服务的道路依赖于建立指导其发展的一致框架。"我在一个快速失败的环境中长大,"威拉德说。"你构建代码,测试,并修复损坏的东西。你在旅途中修复它。你构建它,它有点工作,你让它松动,然后你根据反馈循环的输入随着时间的推移对其进行改进。然而,对于人工智能,问题在于我们把它放在一个判断的位置。就像在刑事司法系统中一样,在你做对之前,它会造成很多伤害。在银行系统中,它是贷款,没有贷款;分数,没有分数;或信用,没有信用。我们如何构建测试框架和沙盒,使其具有大规模启动所需的准确性,同时在此过程中造成更少的伤害?"
人工智能在整个金融服务行业被用于许多目的,但风险在于帮助建立该行业的人际品质的非人性化。"今天,我们可以将人工智能用于任何事情,从批准信用卡到批准抵押贷款,再到批准任何类型的贷款工具,"Scarano说。"但是,如果没有人为干预,就无法理解一个人比信用评分更重要,一个人比获得抵押贷款的批准或拒绝更多。
客户体验是金融服务的基础,这需要成为所有人工智能计划的前沿和中心。在人工智能驱动的系统中,需要有反馈循环,这些系统结合了人类的输入。"当我们实施基于AI的解决方案时,我们需要确保使用产品的最终用户,客户也对这种投资和解决方案感到满意,"Run:AI的解决方案架构师Robert Magno说。"让机器人在仓库中自动移动包裹是非常有意义的。但从客户服务的角度来看,如果一个与聊天机器人互动的人感到沮丧,就需要有一个反馈循环,以确保你正在实施的解决方案能与你的客户产生共鸣,他们享受这种体验,就像你喜欢创造体验一样。
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341