据韩媒Etnews报道,韩国电信运营商LG U+计划于明年正式进军AI Token业务,利用自主研发的Token优化技术,帮助企业降低AI转型(AX)成本。该服务面向B2B市场,LG U+将同时采用与合作伙伴联合提供服务和自主建设两种方式推进。
LG U+的AI Token服务包含三项核心技术。第一项为“Harness Engineering”,用于设计Agent任务执行路径,减少AI Agent在执行任务时不必要的重复搜索和验证。第二项为“智能路由”,根据问题类型和任务难度分配最合适的模型。第三项为“芯片组合”策略,通过异构半导体优化推理过程。
在模型层面,LG U+采用小模型快速生成答案、大模型验证结果的技术路径,使Token生成速度提升两倍以上。该公司自研的端侧AI模型在体积缩小三分之一的情况下,性能仍达到通用云端模型的95%以上,这一结果结合了模型轻量化与推理技术实现。
基础设施方面,LG U+将英伟达、AMD的GPU与韩国本土企业FuriosaAI的神经网络处理器(NPU)结合使用,分别处理问题分析(Prefill)和答案生成(Decode)任务。通过将需要大规模计算的任务与对内存带宽要求较高的任务分开处理,LG U+试图降低基础设施成本。
LG U+此次布局的背景是AI推理成本在企业AI转型中的权重持续上升。Token作为大模型调用与计费的基本单位,其生成效率直接决定企业部署AI应用的单位成本。通过路由、模型轻量化和异构算力调度降低单位Token成本,已成为云服务商和电信运营商争夺B2B AI市场的关键方向。
LG U+加入后,韩国三大电信运营商将全部进入Token经济领域。电信运营商凭借网络基础设施、企业客户资源和本地算力部署能力,正在从传统连接服务向AI算力与模型服务延伸,与云计算厂商在企业AI服务市场形成直接竞争。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。