大模型中的“睡眠”神经元：预训练中未被激活的参数对微调性能的潜在影响 大家好，今天我们来探讨一个关于大型语言模型（LLM）的有趣话题：“睡眠”神经元，以及它们对微调性能的潜在影响。具体来说，我们将深入研究在预训练阶段未被充分激活的参数，它们在后续微调过程中可能扮演的角色。 1. 引言：参数利用率与模型效率 大型语言模型在近年来取得了显著进展，但同时也面临着一些挑战。其中一个关键问题是参数利用率。一个拥有数十亿甚至数万亿参数的模型，是否所有参数都在执行任务时发挥了作用？答案可能是否定的。在预训练过程中，某些参数可能由于多种原因没有被充分激活，这些参数可以被视为处于“睡眠”状态。 这些“睡眠”神经元的存在，引发了几个重要问题： 冗余性： 它们是否代表着模型中的冗余？去除这些冗余是否可以提高模型效率，减少计算成本？ 潜力： 它们是否蕴含着未被挖掘的潜力？在特定的微调任务中，这些“睡眠”神经元是否可以被唤醒，从而提升模型性能？ 鲁棒性： 它们是否可以提高模型对对抗攻击或噪声数据的鲁棒性？ 理解“睡眠”神经元的特性以及它们对微调的影响，对于优化模型架构、提升训练效率以及提高模型性能至关重要。 2 …