前言 注意力（Attention）机制[2]由 Bengio 团队与 2014 年提出并在近年广泛的应用在深度学习中的各个领域，例如在计算机视觉方向用于捕捉图像上的感受野，或者 NLP 中用于定位关键 token 或者特征。谷歌团队近期提出的用于生成词向量的 BERT[3]算法在 NLP 的 11 ....

章立 美团点评算法工程师 未经许可 禁止转载 这是本系列的第一篇文章，期待大家关注我，跟进后续哦 ～ 注意力机制与 Transformer 模型分享 注意力机制 什么是注意力 注意力 的原型很容易理解，例如图片 [图片] 这张图里的要素很多，对于抱有不同目的或者习惯的人。会有注意到不同的内容。 如果 ....