单项选择题
大模型训练时,哪种并行策略可以减少梯度通信的开销?()
A.数据并行B.模型并行C.流水线并行D.混合并行
单项选择题 在大模型中,哪种技术通常用于减少模型大小和计算复杂度?()
单项选择题 大模型训练中,哪种优化策略可以有效减少模型参数的更新方差?()
单项选择题 大模型在应用时,以下哪种方法可以减少推理延迟?()