钛媒体发布AI词元服务平台TiToken,推出算力优化产品BackBy

BackBy 做的事,就是把可等待的部分转入低价路径,降低整条业务的模型调用费用。

9月16日,在2026 ITValue Summit数字价值大会现场,钛媒体集团合伙人李非凡正式发布旗下AI词元服务平台TiToken。该平台定位为多词元聚合与解决方案平台,海外服务由Opensand承载,整体具备多模型Token中转服务、BackBy模型算力优化能力,并通过FDE模式完成应用交付。

此次发布的重点产品BackBy,针对的是AI任务处理中长期被忽略的一个差异:并非所有AI任务都需要即时响应。以文档业务为例,用户问答和人工交互核对需要实时返回结果,仍走实时服务通道;而字段抽取、文档分类、单篇摘要等后台工作则具备可等待、可批量的特征,其输出结果为结构化字段、标签与摘要,供后续业务系统直接调用。BackBy的核心逻辑是将这部分可等待的任务转入低价处理路径,从而降低整条业务的模型调用成本。

在技术实现上,两种任务模式可在API Playground中直接配置。任务提交后,由平台判断可用路径、提交处理任务、跟踪任务状态、匹配处理结果,并记录实际用量与费用。处理任务走厂商原生Batch或其他合格路径,合作方只需关注业务输入和结果,执行路径与任务生命周期由BackBy统一管理。价格差异来源于执行方式的不同:同一个指定模型,实时执行按对应实时服务计费,转入可等待窗口或Batch等合格路径后,按对应低价方案计费。交付与费用记录在Delivery Report中可查,内容包括支持非实时处理的模型与测试、选定窗口的报价以及准时完成情况。

接入方式从一类任务开始。客户提供任务量、输入样本、输出要求与质量标准,双方确认模型与交付窗口后,再比较质量、完成时间与实际总费用。BackBy负责非实时处理这一环节。

BackBy的能力底座由TiToken与Opensand的算力服务构成,两者分别承担聚合国内外主流大模型API的职能。其中TiToken覆盖国产主流模型,Opensand提供出海模型选项,目前已有100余个模型持续接入,兼容OpenAI标准,开发工具可无缝集成。平台按客户指定模型与版本对接,新增模型由TiToken和Opensand完成适配,业务系统无需改造。平台还提供同模型对比测评,以同一模型claude-opus-4-7与亚洲、国际两家中转龙头平台的同期对比为例,Opensand成功率100%,首字延迟P95为3.75秒,在三家中最低,数据基于Claude官方API对比测算。

交付侧采用FDE模式,将客户已有的数据与流程转化为可直接使用的系统。目前该模式已落地三个真实场景:在某调味品制造企业中,打通订单、客户、SKU、区域四类数据构建经营分析看板,并在此基础上叠加管理层助手;在MCN微短剧场景中,同一素材可同时产出3条故事主线供客户比较勾选,方案经校验后方可批准;在广告公司场景中,18条爆款视频统一入库,按推广功能、内容主题、画面形式三个维度拆解,结论直接转化为可开拍的选题与分镜脚本。

从行业视角看,随着大模型调用规模持续扩大,Token成本已成为企业AI应用落地的关键约束之一。TiToken通过区分实时与非实时任务、聚合多模型API、叠加FDE交付能力,试图在算力成本与业务落地之间建立更高效的连接路径。其BackBy产品所代表的非实时低价处理思路,也为企业在批量文档处理、数据标注等场景中提供了更具成本可控性的选择。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
没有方向盘、没有踏板、没有后视镜:特斯拉最疯狂的车来了
上一篇 2小时前
腾讯字节阿里密集布局AI办公,汪华称中国Agent爆发原点已至
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部