想法来源：subword
价值：利用了subword信息的表示，在多个任务上表现优秀。主要是拿来解决OOV问题的
方法：把char建模跟word相似性做损失
缺点：char缺失上下文信息
详细方案：
-c400
与pre-train的word embedding做欧氏距离损失。
直接用这个embedding 做OOV的表示，而不是用word embedding和char做concat
数据集：
Polyglot word embeddings-pre-trained
UD dataset (ver- sion 1.4) yields 44 languages
实验：
-c500
image
image
EMNLP · 2017 · Mimicking Word Embeddings using Subword RN...
2018 · EMNLP · Dict2vec : Learning Word Embeddings using ...
2017 · EMNLP · Supervised Learning of Universal Sentence ...
EMNLP-2020 https://2020.emnlp.org/papers/main/[https://20...
https://pdfs.semanticscholar.org/b397/ed9a08ca46566aa8c35...
2018 · EMNLP · Learning Generic Sentence Representations ...
《字词间距和文本缩进》 Letter-spacing：表示字间距。单位可以是px也可以是em； Word-spac...
EMNLP(Conference on Empirical Methods in Natural Language...
1随大流只会让你更靠近平均值。Mimicking the herd invites regression to t...
本文标题：EMNLP · 2017 · Mimicking Word Em
本文链接：https://www.haomeiwen.com/subject/xqbcoftx.html
网友评论