多家银行警告AI智能体操作风险,用户或需自行承担财务损失

银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行为,而不是外部入侵者实施的操作。

随着具备自主执行能力的AI智能体逐步进入金融场景,多家大型银行近期向客户发出风险提示:由AI智能体发起的转账、购物等操作,可能被视为用户本人行为,相关损失或需由用户自行承担。

据Business Insider查看的银行邮件与应用通知,Ally Bank本月早些时候在客户邮件中明确表示,使用AI服务时,AI采取的任何行动都由用户负责,AI可能犯错、产生幻觉、误解指令或以意料之外的方式执行指令,从而造成重大损失。摩根大通在11月发送的邮件中提醒客户,如果信息遭到滥用,已授权的交易可能无法撤销。花旗银行则在官网和移动应用中添加提示横幅,警告AI助手可能犯错,用户可能需要对由此产生的错误承担责任。

上述警告的出现,与AI智能体能力边界的扩展直接相关。此前ChatGPT、Claude等模型主要以文本问答为主,而Meta的Muse、Instinct AI以及OpenAI的Dots等在线智能体已能代替用户执行预订机票、预约餐厅乃至自动下单购物等实际任务。零售商随之调整服务条款:今年3月,塔吉特修改客户协议,将AI智能体代为购物认定为“由用户授权的交易”;9月,亚马逊以安全性和可靠性为由,禁止Meta的Muse智能体在其网站代为购物。

银行方面正在区分不同授权路径的责任边界。通过正规授权方式将账户连接至AI工具,与直接向AI工具提供账户登录凭据,在责任认定上并不相同。Axios此前报道称,多家大型银行已发现第三方智能体访问客户账户的情况,部分操作获得客户授权,且智能体使用了客户提供的登录凭据。所有相关银行邮件均提醒客户,不要向AI工具提供用户名、密码、安全验证码等重要信息。富国银行表示,任何技术都不应在缺乏严格安全措施、明确客户授权以及资金与信息保护机制的情况下代表客户行动。

摩根大通CEO杰米·戴蒙在10月的财报电话会议上亦就此事表态,称用户在使用这类工具时应了解其中风险,并明确表示该行不会允许外部智能体随意进入公司内部系统,以免给客户和银行带来过大风险。风险提示还延伸至设备与软件层面,苹果最新一代Mac系统测试版已加入相关警告,当用户考虑授予AI智能体或应用程序系统级访问权限时,系统会弹出提示,提醒用户谨慎授权。

从银行、零售商到操作系统厂商,围绕AI智能体操作责任的规则正在同步收紧。在智能体能力持续增强的背景下,授权机制、责任归属与安全防护的界定,将成为AI应用进入金融等高敏感场景的关键前提。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
博帝推出AI Matrix系列存储产品,按大模型参数规模划分三档配置
上一篇 9小时前
马斯克称SpaceX每月新增约0.5GW AI算力,明年底提速至每月1GW
下一篇 8小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部