美文网首页
NLP学习-07.基础-语言模型-评估-perplexity

NLP学习-07.基础-语言模型-评估-perplexity

作者: logi | 来源:发表于2020-03-28 18:06 被阅读0次

如何评估语言模型的好坏?

  1. 有监督情况: AB测试: 对两种模型就行ab测试,看哪个在测试集合准确率高
  2. 无监督情况:

perplexity

Perplexity= 2^{-(x)} x: average log likelihood

perplexity 表示的是我们评估的模型的到的句子的信息熵的大小,越小越好


perplexity公式

即, 数据集每个句子的概率p的倒数开n次根号,n是这个句子中的词的数量.

参考: https://www.zhihu.com/question/58482430

相关文章

  • NLP学习-07.基础-语言模型-评估-perplexity

    如何评估语言模型的好坏? 有监督情况: AB测试: 对两种模型就行ab测试,看哪个在测试集合准确率高 无监督情况:...

  • 【XTREME】

    XTREME:评估多语言泛化的大规模多语言多任务基准摘要 机器学习模型应用于NLP的最新进展是由评估各种任务模型的...

  • 2018-03-13

    ## 机器学习评估系统 机器学习(ML),自然语言处理(NLP),信息检索(IR)等领域,评估(Evaluatio...

  • Ngram ppl 计算说明

    语言模型可以用于知道前个词的情况下,预测第个词的概率。Perplexity(PPL) 用来衡量语言模型的好坏,越小...

  • 语言模型介绍

    做一名知识的搬运工 介绍 语言模型(LM)是很多自然语言处理(NLP)任务的基础。语言模型是指对于语言序列,计算该...

  • NLP学习-06.基础-语言模型-xxgram

    什么是语言模型 用来判断是否一句话是否在语法上通顺. 方法有哪些? Unigram: 即每个单词都是独立的,直接将...

  • 动手学深度学习-Task02

    任务名称 文本预处理;语言模型;循环神经网络基础 学习心得 1、鉴于自己从事NLP已有一段时间,因此该部分还是稍微...

  • Python数据分析与机器学习20- 逻辑回归项目实战4-模型评

    一. 模型评价指标——Precision/Recall 机器学习(ML),自然语言处理(NLP),信息检索(IR)...

  • word2vec[1] word representation词

    词嵌入 word representation 词嵌入是自然语言处理(NLP)中语言模型与表征学习技术的统称。概念...

  • 如何使大模型适配下游任务?

    ©NLP论文解读原创•作者| 康德 如何使得预训练语言模型学习语言的通用表示以及如何使得预训练模型适配到不同的下游...

网友评论

      本文标题:NLP学习-07.基础-语言模型-评估-perplexity

      本文链接:https://www.haomeiwen.com/subject/wejsuhtx.html