法国初创公司Kog日前表示，业界普遍认为GPU不适合智能体工作流的观点可能是一种误解。该公司正在通过更底层的优化技术，从GPU中榨取更多推理性能，以应对日益增长的AI智能体应用需求。
Kog成立于2023年，总部位于巴黎，专注于AI推理基础设施优化。该公司认为，当前GPU在运行大模型推理任务时存在大量算力浪费，尤其是在处理智能体工作流中常见的多轮交互、工具调用和上下文切换场景时，传统优化手段难以充分发挥硬件潜力。
Kog的技术路径聚焦于GPU内核级别的调度优化，通过精细化管理计算资源分配，减少推理过程中的空闲周期和内存带宽瓶颈。据该公司介绍，其方案可在不改变模型架构的前提下，将GPU利用率提升数倍，从而显著降低单次推理成本。
这一方向与当前AI基础设施市场的发展趋势相契合。随着企业级AI应用从简单的问答向复杂的智能体工作流演进，推理环节的算力消耗正在快速攀升。多家云服务商和AI芯片公司近期均加大了对推理优化的投入，Kog的切入角度则更偏向软件层面的极致调优。
Kog的创始团队此前曾在法国国家信息与自动化研究所（INRIA）和多家科技公司从事高性能计算与分布式系统研究。该公司目前已完成种子轮融资，投资方包括欧洲多家专注于深度科技的VC机构，具体融资金额未对外披露。
行业分析人士指出，在AI算力成本高企的背景下，推理优化正成为企业降本增效的关键环节。Kog所瞄准的智能体推理场景，预计将在未来两年内成为AI应用的主流形态，届时对GPU推理效率的优化需求将进一步放大。该公司表示，其技术已进入客户验证阶段，并计划在2025年内推出商业化产品。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
