Grab推出LLM-Kit智能体框架,将AI智能体部署时间从两周缩短至一小时

该系统将新AI智能体的部署时间从两周缩短至一小时,并集中管理基础设施,支持运行时工具发现和灵活的模型集成。

东南亚出行及生活服务平台Grab近日披露,其内部已部署名为LLM-Kit的智能体框架,用于统一管理超过500个内部智能体服务。该框架将新AI智能体的生产环境部署时间从原先的两周大幅压缩至一小时。

据Grab方面介绍,LLM-Kit旨在解决企业内部智能体服务分散、集成标准不一的问题。该框架对服务集成、效果评估和密钥管理等环节进行了标准化,使开发团队能够在统一的基础设施上完成智能体的构建、测试与上线。此前,每个新智能体的部署往往需要跨团队协调、手动配置工具接口并单独处理凭证,流程冗长且易出错。

LLM-Kit的核心能力包括集中式基础设施管理、运行时工具发现以及灵活的模型集成。运行时工具发现意味着智能体可在执行过程中动态识别并调用可用工具,而无需在部署前硬编码所有依赖。模型集成方面,该框架支持接入不同厂商的大语言模型,便于团队根据任务需求切换或组合模型,同时保持对生产环境的操作控制。

Grab并未披露LLM-Kit是否基于开源方案构建,也未说明其底层模型的具体来源。从公开信息看,该框架的定位更偏向企业内部平台工程,而非对外商业化产品。对于拥有大量智能体服务的大型科技公司而言,如何统一管理这些服务的生命周期、评估其输出质量并保障密钥安全,正成为AI落地过程中的共性挑战。Grab的实践提供了一种思路:通过平台化框架将分散的智能体服务纳入统一治理,从而降低部署门槛、提升迭代效率。

目前,LLM-Kit已在Grab内部支撑超过500个智能体服务。随着智能体应用在企业场景中加速渗透,类似的基础设施层工具或将成为企业AI能力建设的重要组成部分。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
LibreDB Studio 发布 0.15.0:浏览器端自托管 SQL 客户端,AI 功能实测 28 个模型
上一篇 2小时前
抖音启动可信社区守护与友善社区共建计划,加码AI治理与网暴界定
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部