众所周知，参数量是机器学习算法的关键。在大规模参数量和数据集的支持下，简单的体系结构将远远超过复杂的算法。 在自然语言领域，被称为史上最强NLP的GPT-3拥有1750亿参数。近日，Google将这一参数量直接拉高到了1.6万亿。 1月11日，Google在arXiv上发表论文 ...