稳准智能联合清华发布LimiX-2,参数规模升至400M并登顶三项结构化数据评测榜单

继去年11月,稳准智能发现并提出“结构化数据基础模型遵循Scaling Law”之后,此次新模型再次沿着这一技术路线,进一步将模型参数规模提升到400M。

9月16日,稳准智能联合清华大学计算机系崔鹏教授团队发布新一代结构化数据基础模型LimiX-2,模型参数规模提升至400M。在TabArena、BCCO、TALENT三个国际主流结构化数据评测基准中,LimiX-2总体Elo分数分别达到1935、1432和1506,均位列榜单第一,超过GoogleSAP、Amazon等国际厂商的同类模型。

Elo是衡量模型综合能力的排名指标。TabArena、BCCO、TALENT是当前结构化数据模型领域的主要评测基准,覆盖回归、二分类、多分类等多类任务,用于评估模型在不同数据集上的泛化能力和预测性能。在TabArena上,LimiX-2的回归、二分类、多分类三项Elo均为最优。

此次模型能力升级主要沿三条技术路线推进。第一是上下文机制网络CMNs(Contextual Mechanism Networks),将建模重点从预先指定的目标变量转向变量之间的相互关联;第二是在预训练阶段升级自动化合成数据的生成引擎;第三是进一步Scaling,将模型参数规模扩大至400M。

LimiX团队提出的上下文机制网络(CMNs),试图从“目标预测”走向“结构发现”。传统经典PFNs以指定目标的预测分布为核心,CMNs则将上下文数据的全变量联合依赖作为建模对象,不仅关注变量取值,更着眼于发现变量之间的关联方式与内在结构。这一范式转变重新确立了模型的学习目标。

在具体实现上,LimiX通过上下文条件掩码建模(CCMM),在不同观测模式下组织跨变量监督,将变量关系推断确立为明确的预训练目标。模型不再仅为某个指定结果学习相关信息,而是通过多种条件预测,共同约束对全变量依赖结构的表达。该原则也贯穿网络架构设计,LimiX采用单元格级(Cell-Level)建模,以变量在各样本中的观测为基本表示单元,保留列身份、具体取值和缺失状态,支持跨变量、跨样本的信息交互。从数据表示、训练目标到网络计算,整体设计围绕联合依赖建模展开。

在这一框架下,分类、回归、缺失值填补等任务被统一为对同一数据模型的不同查询。联合关系建模也为结合因果假设开展因果骨架发现提供了统计基础。CMNs所指向的并非单纯的更强预测器,而是以联合建模为基础、以结构发现为方向、面向数据机制归纳的通用数据智能。

训练数据方面,LimiX-2升级了大规模自动化合成数据的生成引擎。结构化数据大量存在于企业内部系统,难以像互联网文本一样被大规模公开获取,因此TabPFN、Mitra等表格基础模型也普遍使用合成数据进行预训练。LimiX-2可自动生成线性、非线性、多变量交互、周期变化和噪声扰动等不同分布的数据,使模型在进入真实企业场景之前接触更多数据结构和变量关系。

继去年11月稳准智能发现并提出“结构化数据基础模型遵循Scaling Law”之后,此次新模型再次沿该技术路线将参数规模提升到400M。参数规模扩大将使LimiX所选技术路线在更大尺度上得到验证,以获得更强的泛化能力,并在因果关系规律的挖掘和稳定表达方面进一步发挥优势。

除榜单体现的分类、回归等预测能力外,LimiX-2在因果发现方面也展现出技术进展。传统因果发现方法依赖专家先验或严格的统计假设,难以应对高维企业数据。LimiX-2采用上述技术路线后,在Sachs、UF、Causal Chamber等多个因果发现公开标准数据集上显著领先传统因果发现方法。

截至2026年世界人工智能大会,上一代LimiX已完成800余个跨行业、跨场景的公开数据集验证,并实现60余个真实场景落地。在多个真实场景的验证中,LimiX将过去“一项任务训练一个专用模型”的传统机器学习方式,转变为由一个基础模型跨场景、跨数据集的通用预测能力。工艺参数优化、设备故障预测、电力预测、能耗优化和材料科学是目前的典型应用方向。

与LLM赛道的发展路径类似,结构化数据基础模型正迎来竞争加剧的阶段。Google、Amazon、SAP等多个国内外团队持续加速模型研发进程,LimiX等中国技术团队也在打磨自创技术路线,并探索依托产业场景驱动模型迭代的模式。

稳准智能首席科学家崔鹏表示,LimiX-2的发布和此次Benchmark成绩是团队在结构化数据大模型方向持续探索的阶段性成果,团队仍将长期坚持这一技术路线,不断提升模型对数据规律和变量因果关系的理解能力,未来将继续推动模型在因果智能方向上的发展,助力人工智能从预测走向决策。

目前,LimiX-2的技术报告已在arXiv发布,相关代码和模型权重已在GitHub、Hugging Face及ModelScope平台开放。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
ChatOn推出事实核查功能,可验证新闻与AI生成内容
上一篇 9小时前
基元律动与无问芯穹达成战略合作,共建企业级Agent交付体系
下一篇 9小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部