公开笔记 笔记

• 预训练范式：从 BERT 到大模型时代 人工智能 预训练 微调 BERT
  理解"预训练+微调"两阶段范式如何彻底改变 AI 行业，从 2018 年 BERT 发布到 GPT-4 时代的完整演进脉络 - 2026-09-18
• Transformer 模型架构图详解 人工智能 Transformer 注意力机制 神经网络架构
  逐层拆解 Transformer 论文 Figure 1 的经典模型架构图，包括编码器、解码器、自注意力、交叉注意力等核心组件 - 2026-09-16
• 大模型发展简史 人工智能 大模型 Transformer GPT
  从 2017 年 Transformer 论文到 2026 年大模型百花齐放，梳理 AI 大模型的关键节点、架构之争与"简单架构为何胜出"的核心洞察 - 2026-09-15
• Transformer 拆解理解 人工智能 Transformer 注意力机制 序列数据
  将 Transformer 的定义拆解为"注意力机制"、"序列数据"、"神经网络架构"三部分逐一理解，建立对 Transformer 本质的直觉认知 - 2026-09-15
• bert-base-chinese 词表解剖：21,128 个词条里都有什么 理解式模型 AI BERT WordPiece
  用 Python 解析 bert-base-chinese 的 tokenizer.json，统计词表组成、验证繁简体处理、列出中文单字样本，实证 WordPiece 对中文退化为逐字切分 - 2026-09-14
• BERT 推理过程详解：第 2 步 从数字到答案 理解式模型 AI BERT 推理
  承接分词笔记，讲解 BERT 分类模型如何将 token ID 转为 logits，再通过 softmax、argmax 得到类别编号，最后查表返回预设答案 - 2026-09-14
• 大模型推理优化关键技术及应用实践研究报告（2026年） 研究报告 大模型推理 推理优化 PD分离
  信通院《大模型推理优化关键技术及应用实践研究报告（2026年）》解读：模型-引擎-系统三级优化体系、PD/AF 分离架构、KV Cache 多级存储，以及 Mooncake/Dynamo/UCM 与 DeepSeek/MegaScale-Infer/Step-3 等工业级方案与五大行业落地案例 - 2026-09-14
• BERT 的 12 层 Transformer：每层在做什么？ 理解式模型 AI BERT Transformer
  把 BERT 的 12 层 Transformer 类比为 12 位专家流水线，逐层说明从字面意思到词组含义再到句子意图的表征递进 - 2026-09-12
• BERT 分词过程详解：第 1 步 从文字到数字 理解式模型 AI BERT 分词
  拆解 BERT 分词全流程：切分为单字、查词表转 ID、填充到固定长度后送入模型，说明模型只处理数字不处理文字 - 2026-09-12
• BERT分类模型训练数据准备：从知识条目到问法变体 理解式模型 BERT 训练数据 HXXedge
  记录HXXedge系统BERT分类模型的训练数据准备流程，包括preset_qa.json的结构、问法变体生成机制、以及类别重复导致短问题分类失败的诊断与修复过程 - 2026-09-12
• HuggingFace：AI 世界的 GitHub LLMs AI HuggingFace 开源社区
  HuggingFace 既是模型与数据集托管平台，也是 Transformers、Datasets 等开源工具与社区标准的提供者，是 AI 生态的基础设施 - 2026-09-12
• bert-base-chinese：中文 BERT 原始模型详解 理解式模型 AI BERT bert-base-chinese
  bert-base-chinese 是 Google 2018 年发布的中文预训练 BERT 模型，解析其模型结构、词表与配置文件，以及作为中文 NLP 微调起点的用途 - 2026-09-11
• WordPiece 算法：BERT 的分词之道 理解式模型 AI BERT WordPiece
  WordPiece 子词切分算法的原理与优势：切得比字大、比词小，兼顾已知词与未知词，并说明其在 BERT 分词器中的落地方式 - 2026-09-11
• BERT分类模型ONNX转RKNN全流程实录 理解式模型 AI BERT ONNX
  将Colab训练的bert-base-chinese分类模型转换为RKNN格式并部署到香橙派RK3588 NPU的完整流程，包含IsNaN算子兼容性问题的诊断与策略反转 - 2026-09-11
• 项目模型库：从 BERT 到 TTS 的全家福 LLMs AI 模型库 BERT
  梳理项目所用模型清单，说明每个语言模型都由权重、分词器与配置三部分组成，并列举从 BERT 到 TTS 各模型的用途与位置 - 2026-09-11
• BERT模型详解：从原理到小模型变体 理解式模型 AI BERT 预训练模型
  BERT（Bidirectional Encoder Representations from Transformers）模型的原理、架构特点、与GPT/Qwen的对比，以及TinyBERT/MobileBERT等小模型变体在文本分类任务中的应用 - 2026-09-10
• 大模型评测基准与权威指标 LLMs AI 大模型 评测基准
  2026年主流大模型评测基准、权威排行榜与选型指南，涵盖Chatbot Arena、GPQA Diamond、SWE-bench、MMLU、AIME等核心指标 - 2026-09-10
• 大语言模型工作原理：权重、层与推理过程 LLMs LLM 权重 参数
  用通俗语言解释大语言模型的核心概念：权重（参数）是什么、层是什么、推理时发生了什么。以 Qwen3.5-0.8B 的 config.json 为例，解读 layer_types 和 num_hidden_layers - 2026-09-09
• 开源模型到底开源了什么？ LLMs 开源模型 权重 参数
  当一个模型说'开源'时，它到底公开了什么？权重、配置、分词器、训练数据、训练代码？用 Qwen、Llama、DeepSeek 等实际例子拆解开源模型的'开放边界' - 2026-09-09
• 从精度认识大语言模型版本 模型量化 模型量化 精度 FP16
  同一个模型为什么有十几个版本？FP16/BF16/INT8/Q4_K_M/GPTQ/AWQ/GGUF... 教你从模型名称看出它的精度、大小和适用场景 - 2026-09-09