判断题 预训练模型的预训练过程完全不需要人类的先验知识。

判断题 预训练模型在自然语言理解任务中比在自然语言生成任务中更有效。

判断题 预训练模型的预训练阶段不需要考虑数据的语义结构。