首页 / 资讯详情

BIMSA 王雅晴:Scaling Law 触及天花板,「数据高效学习」指向 AI 的下一站|IJCAI 2026

雷锋网 2026-08-25 06:44 中文

摘要

真正的智能,在于能否基于有限的数据,实现可靠的泛化与迁移。 作者丨张璐 编辑丨岑峰 幸丽娟 高质量标注数据快用完了,算力贵得离谱,黑盒依然无解。大模型时代信奉的 Scaling Law,正在面临多重瓶颈。更麻烦的是另一件事:很多任务天生就没有大数据——药物研发、冷启动推荐、科学探索。这些不是技术的短板,是世界的常态。在IJCAI 2026大会的 Early Career Spotlight(早期职业焦点)环节,北京雁栖湖应用数学研究院(BIMSA)副教授王雅晴,给这些问题做出了系统回应。王雅晴长期从事小样本学习与 AI for Science 研究。她博士毕业于香港科技大学,曾任百度研究院资深研究员,现任北京雁栖湖应用数学研究院(BIMSA)副教授。贯穿其研究经历的一条主线是:如何提高 AI 对有限数据与经验的利用效率,使其在监督稀缺的场景下仍能实现可靠的泛化、适应与决策。她在题为《迈向高效数据智能:从少样本学习到智能体系统》(Toward Data-Efficient Intelligence: From Few-Shot Learning to Agentic Systems)的演讲中,梳理了从小样本学习、元学习、上下文学习,到最新提出的“数据高效智能体学习”(Data-Efficient Agentic Learning, DEAL)的完整演进脉络。她的核心洞察是:人类智能从极少样本中完成泛化,靠的是基因、文化与经验三重先验的支撑,而 AI 同样可以。更关键的是,她还从理论层面进一步证明了,在所研究的任务与模型设定下,In-Context Learning 可以被理解为一种数据依赖的元学习。Transformer通过自注意力机制,将传统元学习中显式的适配过程内化为隐式计算,从而实现了“殊途同归”。这一发现为大模型的少样本能力提供了坚实的理论解释。而当AI从单步预测走向多步交互与长程决策,数据稀缺问题变得更加严峻。她与合作者提出了 DEAL 框架,从经验增强、架构设计与高效学习范式三个方向,系统应对智能体面临的“数据沙漏”瓶颈。其中一条核心思路,就是利用结构化先验,让 AI 在有限经验中实现可靠和泛化,从而在真实世界走得更远。01科学与工业的现实:天然缺乏大数据的场景当下,Scaling Law几乎成为行业共识。在Transformer与监督学习范式下,行业已习惯这套路径:更大规模的数据、更多参数量,叠加持续增长的算力,即可推高模型的泛化上限。但这条规模扩张的路径,究竟还能走多远?以行业对GPT-4的估算为例,训练数据如果印成纸质书,排起来能绵延 650 公里;所需的计算量,相当于一台普通的单核笔记本电脑连续运转 700 万年;而它等效参数的量级,足足可以铺满 3 万个标准足球场。这种靠规模堆叠获得的泛化能力固然惊人,但若继续沿着同一条曲线外推,边际收益与代价的平衡点究竟在哪里?高质量语言数据正被快速耗尽,算力成本让多数科研团队难以为继,黑盒参数带来的不可解释性也始终未解。跳出大模型参数与算力的军备竞赛,我们不得不直面两个更为根本的现实问题:当任务本身天然缺乏大规模数据支撑时,该如何应对?当数据真正的关键价值恰恰集中在长尾分布上时,我们又该如何破局?以药物研发(Drug Discovery)为例,在化学空间里,潜在的类药小分子高达

阅读原文(雷锋网)→

本站为资讯聚合平台,仅展示标题与摘要,原文版权归原发布方所有;如有侵权请联系我们删除。