尽管选用编码器-解码器(Encoder-Decoder)构造的实体模型在翻译机器、语音识别技术及其文字引言等众多运用中都获得了十分非常好的实际效果，但另外也存有着存在的不足。
编码器将键入的编码序列编号变成一个固定不动长短的空间向量，再由解码器将其编解码获得輸出编码序列，这一固定不动长短的空间向量所具备的定性分析工作能力是比较有限的，殊不知解码器又受制于这一固定不动长短的空间向量。因而，当键入编码序列较长时，编码器难以将全部的重要信息都编号到这一定长的空间向量中，进而促使实体模型的实际效果受到非常大影响。
举个简易的事例，假定解码器的輸出与编码器的键入、的关联很大，那麼编号获得的空间向量便会大量的储存和的信息内容，同样获得其他的编号空间向量。因而，Attention体制的关键便是编号向量的计算，假定大家的编码器和解码器均应用的是循环系统神经元网络。
大家以***个编号向量的计算为例子，较早用解码器的**初的状态各自和编码器中每一个時间步的輸出测算相似性，获得輸出，再根据一个softmax计算将转化成几率值，**终由计算公式获得编号空间向量。接下去再运用解码器中神经元网络的輸出测算编号空间向量，依此类推，直至编解码全过程完毕。
文章来源地址: http://jydq.chanpin818.com/stzbcp/jiemaqi/deta_5831210.html
免责声明： 本页面所展现的信息及其他相关推荐信息，均来源于其对应的用户，本网对此不承担任何保证责任。如涉及作品内容、 版权和其他问题，请及时与本网联系，我们将核实后进行删除，本网站对此声明具有最终解释权。