http://www.bing.com:80/search?q=Transformer+Based+Decoder+ModelSearch resultshttp://www.bing.com:80/s/a/rsslogo.gifhttp://www.bing.com:80/search?q=Transformer+Based+Decoder+ModelCopyright © 2026 Microsoft. All rights reserved. These XML results may not be used, reproduced or transmitted in any manner or for any purpose other than rendering Bing results within an RSS aggregator for your personal, non-commercial use. Any other use of these results requires express written permission from Microsoft Corporation. By accessing this web page or using these results in any manner whatsoever, you agree to be bound by the foregoing restrictions.https://www.zhihu.com/tardis/zm/art/600773858网上有关Transformer原理的介绍很多，在本文中我们将尽量模型简化，让普通读者也能轻松理解。 1. Transformer整体结构 在机器翻译中，Transformer可以将一种语言翻译成另一种语言，如果把Transformer看成一个黑盒，那么其结构如下图所示：Sun, 12 Apr 2026 21:11:00 GMThttps://www.zhihu.com/question/445556653Transformer最开始应用于NLP领域的机器翻译任务，但是它的通用性很好，除了NLP领域的其他任务，经过变体，还可以用于视觉领域，如ViT（Vision Transformer）。 这些特点让Transformer自2017年发布以来，持续受到关注，基于Transformer的工作和应用层出不穷。Mon, 13 Apr 2026 13:32:00 GMThttps://www.zhihu.com/tardis/zm/art/607605399Transformer是GPT和BERT的前身。谷歌和OpenAI在自然语言处理技术上的优化，都是基于这个模型。 更多关于的Transformer可以看文章： ChatGPT与Transformer（无公式版） 而在目前的“猜概率”游戏环境下，基于大型语言模型（LLM，Large Language Model）演进出了最主流的两个方向，即Bert和GPT。 其中BERT是之前最流行 ...Sun, 12 Apr 2026 19:03:00 GMThttps://www.zhihu.com/question/471328838如何从浅入深理解 Transformer？ 学习路线应该是怎么样的？ 后续进阶又该看哪些论文？ 开始看论文以来一直有听说过 鼎鼎大名的 Transformer，最近终于开始学这个了，想知道各位前辈… 显示全部 关注者 2,280 被浏览Thu, 26 Mar 2026 10:40:00 GMThttps://www.zhihu.com/column/p/338817680Transformer 的整体结构，左图Encoder和右图Decoder 可以看到 Transformer 由 Encoder 和 Decoder 两个部分组成，Encoder 和 Decoder 都包含 6 个 block。Transformer 的工作流程大体如下： 第一步： 获取输入句子的每一个单词的表示向量 X， X 由单词的 Embedding（Embedding就是从原始数据提取出来的Feature） 和单词位置的 ...Tue, 31 Mar 2026 16:04:00 GMThttps://www.zhihu.com/question/1240780738401. Transformer：像“万能翻译官”的神经网络 Transformer 是当今AI大模型（如ChatGPT）的核心架构，最初用于机器翻译，核心是自注意力机制（Self-Attention），能同时分析句子中所有词的关系，而非像传统RNN那样逐词处理。 核心特点： 并行计算：同时处理所有词 ...Mon, 06 Apr 2026 02:13:00 GMThttps://www.zhihu.com/question/434784733深度学习中“Transformer”怎么翻译为中文？ 深度学习中Transformer在自然语言处理、计算机视觉大热，但是似乎还没有比较稳妥的中文翻译？ 怎么翻译可以做到信雅达？ 显示全部 关注者 197Mon, 13 Apr 2026 15:12:00 GMThttps://www.zhihu.com/question/426332938之所以叫Transformer其实有一个特别有意思且有深度的原因！ 不卖关子！废话不多说，开始解读。。。 先从GPT的名词解释开始… 1. GPT 的名词解释 著名的 GPT 这个名字全称是 Generative Pre-trained Transformer。其中“Generative”是"生成式"的意思，也就是说这个 AI 模型是用来生成内容的。“Pre-trained”是“预 ...Mon, 13 Apr 2026 00:18:00 GMThttps://www.zhihu.com/question/471328838/answers/updatedTransformer 全貌：一个纯注意力驱动的编解码架构 Transformer 的整体框架，依然遵循了序列建模经典的编码器 - 解码器（Encoder-Decoder）结构，但把里面的所有核心组件，都换成了注意力机制。 简单来说，这个架构的逻辑非常清晰：编码器负责 “理解输入”，把输入的源序列（比如一句英文）编码成包含 ...Thu, 26 Mar 2026 14:15:00 GMThttps://www.zhihu.com/question/647481202Transformer 的整体结构，左图Encoder和右图Decoder 可以看到 Transformer 由 Encoder 和 Decoder 两个部分组成，Encoder 和 Decoder 都包含 6 个 block。Transformer 的工作流程大体如下： 第一步： 获取输入句子的每一个单词的表示向量 X， X 由单词的 Embedding（Embedding就是从原始数据提取出来的Feature） 和单词位置的 ...Sun, 12 Apr 2026 15:06:00 GMT