如需文档和代码,请私信联系。 预训练模型相当于一个大学教授,你把样本数据给他,由他帮你总结规律,写出一本规则手册,这个就是你自己生成的模型,以后只要调用这个新模型就可以用来执行文本分类之类的功能了。 模型蒸馏相当于再找一个小学生,来学习这个规则手册,然后按自己的理解再写一本规则手册,新的手册大小会小很多,速度会更快。 这里是关于长短文分类的具体方案,本方案参加了第七届西湖论剑比赛,得了优秀作品B等奖,奖金15000。