http://www.bing.com:80/search?q=Transformer+Control+TableSearch resultshttp://www.bing.com:80/s/a/rsslogo.gifhttp://www.bing.com:80/search?q=Transformer+Control+TableCopyright © 2026 Microsoft. All rights reserved. These XML results may not be used, reproduced or transmitted in any manner or for any purpose other than rendering Bing results within an RSS aggregator for your personal, non-commercial use. Any other use of these results requires express written permission from Microsoft Corporation. By accessing this web page or using these results in any manner whatsoever, you agree to be bound by the foregoing restrictions.https://www.zhihu.com/tardis/zm/art/600773858网上有关Transformer原理的介绍很多，在本文中我们将尽量模型简化，让普通读者也能轻松理解。 1. Transformer整体结构 在机器翻译中，Transformer可以将一种语言翻译成另一种语言，如果把Transformer看成一个黑盒，那么其结构如下图所示：Thu, 02 Apr 2026 06:14:00 GMThttps://www.zhihu.com/question/445556653Transformer最开始应用于NLP领域的机器翻译任务，但是它的通用性很好，除了NLP领域的其他任务，经过变体，还可以用于视觉领域，如ViT（Vision Transformer）。 这些特点让Transformer自2017年发布以来，持续受到关注，基于Transformer的工作和应用层出不穷。Tue, 31 Mar 2026 18:41:00 GMThttps://www.zhihu.com/question/471328838Transformer升级之路：11、将β进制位置进行到底 Transformer升级之路：12、无限外推的ReRoPE？ Transformer升级之路：13、逆用Leaky ReRoPE Transformer升级之路：14、当HWFA遇见ReRoPE 预训练一下，Transformer的长序列成绩还能涨不少！ VQ一下Key，Transformer的复杂度就变成线性了Sun, 29 Mar 2026 13:36:00 GMThttps://www.zhihu.com/column/p/338817680Transformer 的整体结构，左图Encoder和右图Decoder 可以看到 Transformer 由 Encoder 和 Decoder 两个部分组成，Encoder 和 Decoder 都包含 6 个 block。Transformer 的工作流程大体如下： 第一步： 获取输入句子的每一个单词的表示向量 X， X 由单词的 Embedding（Embedding就是从原始数据提取出来的Feature） 和单词位置的 ...Tue, 31 Mar 2026 16:04:00 GMThttps://www.zhihu.com/question/471328838/answers/updatedTransformer 全貌：一个纯注意力驱动的编解码架构 Transformer 的整体框架，依然遵循了序列建模经典的编码器 - 解码器（Encoder-Decoder）结构，但把里面的所有核心组件，都换成了注意力机制。 简单来说，这个架构的逻辑非常清晰：编码器负责 “理解输入”，把输入的源序列（比如一句英文）编码成包含 ...Thu, 26 Mar 2026 14:15:00 GMThttps://www.zhihu.com/question/485876732Transformer目前没有官方中文译名，暂时就叫Transformer吧。 在该论文中，作者主要将Transformer用于机器翻译 [2] 任务，后来研究者们发现Transformer在自然语言处理的很多任务上都展现出了优越的性能。Mon, 30 Mar 2026 20:44:00 GMThttps://www.zhihu.com/question/1240780738401. Transformer：像“万能翻译官”的神经网络 Transformer 是当今AI大模型（如ChatGPT）的核心架构，最初用于机器翻译，核心是自注意力机制（Self-Attention），能同时分析句子中所有词的关系，而非像传统RNN那样逐词处理。 核心特点： 并行计算：同时处理所有词 ...Tue, 24 Mar 2026 23:14:00 GMThttps://www.zhihu.com/question/7385521828Transformer 和 CNN，真的是两条差异巨大的路径吗？ 两者设计逻辑不一样，但目标一致——让机器看懂东西 CNN 是图像领域的老炮，靠“局部感知+权值共享”吃饭。 简单说，它专注于看图像的局部细节，就像你拿着放大镜逐块拼图，看得又快又省力。Thu, 26 Mar 2026 18:33:00 GMThttps://www.zhihu.com/question/426332938/answers/updatedTransformer这个模型的名字通常给人的联想是变形金刚（变形金刚英语就是Transformer），但我想原作者并不是故意要和变形金刚建立联想。 因为Transformer其实是一个十分务实的名字！ transformer也是变压器的意思，即便不和变压器做联系，也可以继续分解一些。Tue, 31 Mar 2026 20:28:00 GMThttps://www.zhihu.com/question/622085869所以最后transformer作者选择升成4倍是一个权衡的结果。 升维之后，特征之间的关系可以被更充分地展开和重组，让更加不可分的细微的特征结构也能暴露在ReLU面前。Fri, 03 Apr 2026 10:09:00 GMT