高盛合伙人警告AI普及或削弱金融从业者推理能力

这里存在一个巨大的风险:在AI时代,我们把推理能力外包给这些模型,最终出现认知能力萎缩,以至于我们自己都无法再从第一性原理出发进行思考。

高盛负责旗舰人工智能项目的合伙人Chris Churchman近日在《Exchanges》播客中警告称,AI在华尔街的快速普及可能削弱下一代金融从业者的思考能力。Churchman认为,如果算法承担了所有繁重的分析工作,银行家可能逐渐丧失分析能力,就像现代科技的出现让人们逐渐失去了导航和记忆能力一样。

Churchman表示,华尔街正推动将AI深度融入交易和银行业务的各个环节,这可能是一种“魔鬼交易”:短期来看,AI能够提高整个行业的盈利能力,但从长远来看,却可能侵蚀行业赖以发展的专业人才基础。随着AI接管越来越多过去由初级银行家和交易员完成的日常工作,这些年轻员工原本可以通过这些工作学习如何思考和做出决策,如今这些训练机会正被AI取代。

Churchman此前曾负责瑞银的外汇交易业务,并于2021年加入高盛,目前担任高盛全球银行与市场业务AI工作组的联合主席。他指出,银行需要在使用AI和保护华尔街传统的“师徒式”培养体系之间找到平衡。“你需要通过实践学习,而大量知识其实是隐性的,从来没有被写下来。”他说。

Churchman举例称,初级交易员可以在经验丰富的交易员监督下处理客户的报价请求,并通过这一过程学习如何进行交易判断。“我们当然完全可以把这件事自动化,但这样一来,我们还能培养出真正理解这些业务的资深交易员吗?”他表示,在涉及高风险和高度不确定性的决策时,系统必须确保员工仍然掌握最终决策权,而不是让他们沦为被动操作AI系统的人。

在谈及高盛将AI引入机构客户数字平台Marquee的经验时,Churchman透露,目前该AI平台仅向高盛内部员工开放。从技术角度来看,最大的挑战是确保AI给出的答案100%准确并且能够接受审计。他指出,面向消费者的AI聊天机器人通常会提醒用户答案可能存在错误,但在高端金融领域,对错误的容忍度非常低。

Churchman坦言,即便是高盛这样的全球顶尖投资银行,目前也还没有“想清楚”该如何管理这场已经开始的转型。他透露,在开发面向客户的AI平台时,软件甚至给出了一个令人意外的自我评价:“当我们不断施压、对它进行严格测试时,至少它是诚实的。它就像是在说:‘听着,到最后,我更擅长让自己听起来很全面,而不是真的做到全面。’”

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
Anthropic面试流程曝光 文化面试要求应聘者回答使命与金钱冲突问?
上一篇 15小时前
WikiHow起诉OpenAI未经授权抓取超1.1万篇教程文章训练AI模型
下一篇 4小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部