亚马逊Bedrock接入月之暗面Kimi K3模型,为首个支持显式提示缓存的开放权重模型

Kimi K3 是 Amazon Bedrock 首个支持显式提示缓存的开放权重模型。

亚马逊云服务(AWS)旗下人工智能服务平台 Amazon Bedrock 近日宣布接入月之暗面开发的 Kimi K3 模型,为编程类工作负载提供新的模型选择。这是 Bedrock 持续扩充第三方模型矩阵的又一动作。

据官方信息,Kimi K3 是首个参数规模达到 2.8 万亿的开源模型,原生支持视觉能力,并具备 100 万 Token 的上下文窗口。这一规格使其适合执行长时间编程、多文档分析等需要处理大规模上下文的复杂任务。

在安全与合规层面,Amazon Bedrock 为 Kimi K3 提供与闭源模型相同的安全边界,包括统一的访问控制、加密和审计机制。这意味着企业在调用该开放权重模型时,能够沿用 Bedrock 既有的权限管理与合规框架,而不必单独搭建一套治理体系。

值得关注的是,Kimi K3 是 Amazon Bedrock 首个支持显式提示缓存的开放权重模型。在多次调用模型的场景中,提示缓存允许重复使用已有上下文,从而降低响应延迟和输入侧成本。对于需要频繁交互的编程辅助、代码审查等应用而言,这一特性有助于控制推理开销。

从行业角度看,Bedrock 接入 Kimi K3 反映出两个趋势。其一,头部云厂商的模型托管平台正加速引入来自不同地区的开源与开放权重模型,以覆盖多样化的客户需求;其二,提示缓存等工程优化能力,正在成为模型服务竞争力的组成部分,而不仅是模型本身的参数规模。对于希望在云端使用 Kimi K3 的企业开发者而言,Bedrock 提供的托管接入方式降低了部署与运维门槛,但实际采用情况仍取决于模型在具体编程任务中的表现与成本效益。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
KMS Technology任命Troy Cantrell为现场CTO,推动企业级AI执行落地
上一篇 1小时前
AgentCloak 推出桌面端产品,在数据进入主流 AI 聊天机器人前完成隐私替换
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部