Yann LeCun、何凯明参与的新作S-JEPA:告别硬聚类,51.8M参数语音模型碾压一众90M以下
Yann LeCun和何凯明两位大神的名字同时出现在作者栏,这排面,拉满了!他们提出了一种全新的自监督语音学习范式S-JEPA,用软聚类取代了硬聚类,彻底告别了HuBERT那种需要中断训练、重新聚类的繁琐流程。更有意思的是,它只用51.8M参数,就在SUPERB语音识别上碾压了所有90M参数以下的方法,效果直逼94.7M的HuBERT-Base。这背后隐藏着
LONGGE AI RESEARCH DAILY
每天筛选值得关注的 AI 论文,用工程视角拆解方法、实验和真正的落地价值。
目前已发表 1573 篇文章
Yann LeCun和何凯明两位大神的名字同时出现在作者栏,这排面,拉满了!他们提出了一种全新的自监督语音学习范式S-JEPA,用软聚类取代了硬聚类,彻底告别了HuBERT那种需要中断训练、重新聚类的繁琐流程。更有意思的是,它只用51.8M参数,就在SUPERB语音识别上碾压了所有90M参数以下的方法,效果直逼94.7M的HuBERT-Base。这背后隐藏着
LONGGE AI COMMUNITY
加入「龙哥读论文」知识星球,持续获取 AI 论文、资讯、开源项目、招聘与研究思路。
加入龙哥读论文微信群:添加微信 kangjinlonghelper,备注“研究方向 + 地点 + 学校/公司 + 昵称”。
微信扫码加入知识星球