美文网首页
噪声对dnn训练的影响

噪声对dnn训练的影响

作者: shudaxu | 来源:发表于2019-04-19 16:32 被阅读0次

在实际项目中,噪声总是会存在,消除噪声需要付出额外的代价(机器,人力)。并且有时候,噪声也并不是那么好识别,那么噪声在真实工业界场景中的影响到底如何?

  从一些项目中可以发现,有的模型,可以在噪声水平较高的水平下,得到跟去噪后差不多的效果。而有的模型则非常容易受到噪声影响,会显著降低其准确率。(去除噪声的方法有很多,大部分也跟具体应用场景以及研发人员对数据的解读有关。所以在此不进行过多延伸。)

   从现象观察来看,噪声影响其作用大小的一个比较主要的因素是 :【噪音对于不同label的数据是否均匀分布】,在均匀分布的情况下,模型能承受一定比例的噪声,而在有明显的倾斜时,会对预估结果造成比较大的影响。
其次是,受到【模型本身预估能力】的影响。在模型本身预估能力较强的情况下,受到噪声的影响也较小(可以理解为有较强的信号给予模型进行预估)。

   在噪声的对抗中,低秩的假设,能对数据进行一定的去噪的优化。参考图像去噪声的Low-Rank Matrix Approximation方法.(目前LRMA主要有鲁棒主成分分析robust PCA, RPCA)、矩阵补全(matrix completion,MC)和低秩表示(low-rank representation,LRP)等三类模式。[1]

PS:在工科领域,理论作为引导,设计具体实验仍是鉴定其效果的最直接方法。
[1]: 原blog:http://blog.sina.com.cn/s/blog_bfb629e50102xhsw.html

相关文章

  • 噪声对dnn训练的影响

    在实际项目中,噪声总是会存在,消除噪声需要付出额外的代价(机器,人力)。并且有时候,噪声也并不是那么好识别,那么噪...

  • 噪声对我的影响

    以前在哪看到的,日本地铁火车几乎就是零噪声,接打电话都是轻声细语。在这种本应该很噪杂的地方,反而安静的可以看书。 ...

  • 基于word2vec训练词向量(一)

    1.回顾DNN训练词向量 上次说到了通过DNN模型训练词获得词向量,这次来讲解下如何用word2vec训练词获取词...

  • 如何训练深度神经网络?

    1. 训练数据 许多 ML 开发者习惯把原始训练数据直接扔给 DNN——为什么不这么做呢?既然任何 DNN (大多...

  • ASR: DNN训练

    本文通过简单kaldi源码,分析DNN训练声学模型时神经网络的输入与输出。在进行DNN训练之前需要用到之前GMM-...

  • d-vector

    d-vector 是通过DNN训练得到的。 or

  • CV04-01:OpenCV的dnn模块

      OpenCV的DNN模块,提供了对其他框架训练模型的加载,目前支持框架有:  1. *Caffe, http:...

  • 基于Kaldi(DNN)的小词汇量汉语语音识别

    基于Kaldi的小词汇量汉语语音识别,使用DNN训练 详情参看 基于Kaldi(DNN)的小词汇量汉语语音识别平台搭建

  • 《每天最重要的两小时》之光线和工作空间

    昨天学习了噪声对工作效果的影响,今天读了光线、工作空间对工作效率的影响。 多项科学研究表明 偏蓝光可以在同等环...

  • 2018-12-26 信息噪声太多,如何降噪?

    ·信息噪声是什么? ·信息噪声的影响? ·信息噪声,如何降噪? 今天下定决心,要将整理作为自己工作的一个重心,因为...

网友评论

      本文标题:噪声对dnn训练的影响

      本文链接:https://www.haomeiwen.com/subject/athcgqtx.html