Skip to main content

从零开始的OCR-0——基础篇[Transformer]🌐 链接:

  1. 从零开始的OCR-0——基础篇[Transformer]

    🌐 链接: https://linux.do/t/topic/3010013

    🔍 关键词: #gpt

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-10-11 22:40:06
    LINUX DO
    从零开始的OCR-0——基础篇[Transformer]
    从零开始的OCR-0——基础篇[Transformer] 学习目标 ：能记住Transformer的完整流程 → 了解最重要的一些特点（QKV, Mask, Embedding, FFN参数） → 手撕MHA+FFN+位置编码 → 了解近几年有关Transformer的重大改进 难度：⭐⭐⭐ 重要性：⭐⭐⭐⭐⭐ 古老而又强大的架构… 掌握了他才有资格进阶更高阶的技术… 图片来自gpt制作 整体流程： 得到 tokens： 通过 Tokenizer。一般自然输入就是一段文字，若干…