Model Components

预训练模型先从大规模数据学习通用能力，再被适配到具体任务。

Backbone 是负责把原始输入转换成通用特征的模型主体，供任务头继续使用。

Encoder 把原始输入转换成更紧凑、更适合后续计算的内部表示。

Decoder 把模型内部表示转换成用户或任务需要的输出形式。