UEI Corporation is a user on mstdn.uei.co.jp. You can follow them or interact with them if you have an account anywhere in the fediverse. If you don't, you can sign up here.
UEI Corporation @info

Refining Source Representations with Relation Networks for Neural Machine Translation
ニューラルネットワーク翻訳のための関係ネットワークを用いたソース表現の改良
arxiv.org/abs/1709.03980

要約:エンコーダ/デコーダフレームワークを用いたNMT(神経機械翻訳)は近年大きな成功を収めているが、RNNはしばしば有用な古い情報を忘れる傾向があり、エンコーダは単語を考慮せずに単語を操作する関係。これらの問題を解決するために、NMTに関係ネットワーク(RN)を導入し、ソースの符号化表現を改良する。我々の方法では、RNは最初に、各ソース単語の表現をその近傍で補強し、それらの間のすべての対の関係を理由づけする。その後、t...