1. 提升
提升 意味着语言模型难以预测下一个单词!
改进: 当语言模型无法轻松猜测下一个单词时,说明很高!
词汇集越大,越高!
改进: 每当语言模型知道更多的单词,它就更难猜出下一个单词,从而提高!
上下文信息丰富有助于提高!
改进: 当语言模型接收到大量有关前几个单词的信息时,它猜下一个单词变得更加困难,这会增加!
2. 提升爆发性
衡量连续时间内连续输出相同单词的频率!
改进: 当语言模型在一个很短的时间内不断生成相同的单词,就像:连珠炮似地,那就叫做爆发性很高!
可以通过优化语言模型的训练数据进行提升!
改进: 我们可以调整语言模型的学习材料,让它更容易连续生成相同的单词,从而提高爆发性!
高爆发性对于生成富有表现力的文本很重要!
改进: 爆发性有助于语言模型创造生动有趣的文本,就像:我们说话时一样,时不时会重复几个词!