摘要: 小样本利器1.半监督一致性正则 Temporal Ensemble & Mean Teacher代码实现 这个系列a56爆大奖在线娱乐们用现实中经常碰到的小样本问题来串联半监督,a56爆大奖在线娱乐对抗,a56爆大奖在线娱乐增强等模型优化方案。小样本的核心在于如何在有限的标注样本上,最大化模型的泛化能力,让模型对unseen的样本拥有很好的预测效果。半监督通过利用大量的相同领域未标注数据来提升模型的样本外预测能力,这一章a56爆大奖在线娱乐们来聊聊半监督方案中的一致性正则。一致性正则~一个好的分类器应该对相似的样本点给出一致的预测,于是在训练中通过约束样本和注入噪声的样本要拥有相对一致的模型预测,来降低模型对局部扰动的敏感性,为模型参数拟合提供更多的约束。正在施工中的SimpleClassifcation提供了Temporal Ensemble的相关实现,可以支持多种预训练或者词袋模型作为backbone,欢迎来一起Debug~ 阅读全文
posted @ 2022-06-04 09:24 风雨中的小七 阅读(1059) 评论(0) 推荐(1) 编辑