行业资讯

AI news by Ai Studio

今天浅谈一下「继续预训练」

最近和同事聊天,聊到一次面试时,同事作为面试官,提问了一个小问题:「如果你拥有的预训练的语料和下游任务的语料分布差异很大,你会怎么做」「那他答上来了吗」我问到「没有」他说一、基本概念继续预训练是什么?