人工智能/理解式模型 笔记

• 中文分词工具全景：从 jieba 到 LTP 的选型与对比 中文分词 NLP预处理 jieba
  系统介绍中文分词的主要工具（jieba、pkuseg、LTP、HanLP、THULAC），对比分词精度、速度、依赖规模，并说明中文分词与 BERT WWM 全词遮盖的关系。 - 2026-10-04
• 中文BERT三变体：bert-base-chinese、MacBERT与RoBERTa-wwm-ext
  三个主流中文BERT变体的技术特点、下载方法、论文引用与主要区别，为领域问答模型选型提供依据 - 2026-09-30
• LaBSE：跨语言句向量编码器详解 LaBSE 跨语言 句向量
  LaBSE（Language-agnostic BERT Sentence Embedding）是 Google 2022 年发布的跨语言句向量编码模型，支持 109 种语言，能将不同语言的相同语义映射到同一向量空间的相近位置，是跨语言检索与计量语言学的核心工具 - 2026-09-29
• mBERT：多语言 BERT 原始模型详解 mBERT 多语言 BERT
  mBERT（multilingual BERT）是 Google 2018 年发布的多语言预训练 BERT 模型，支持 104 种语言，是 LaBSE、XLM-R 等后续跨语言模型的基础，在计量语言学中用于 MLM 置信度实验 - 2026-09-29
• 理解式预训练语言模型综述：从 BERT 到跨语言句向量编码器 综述 理解式模型 Encoder-only
  以综述论文的形式系统梳理理解式（Encoder-only）预训练语言模型的完整演进——涵盖 BERT 家族架构革新、多语言理解模型的跨语言能力扩展、句向量模型从 [CLS] 到对比学习的范式跃迁三条主线，并讨论在文本分类、跨语言检索与计量语言学中的应用 - 2026-09-28
• 理解式模型专题研究：从 BERT 到跨语言编码器的全景梳理 理解式模型 Encoder-only BERT
  系统梳理理解式（Encoder-only）预训练语言模型的完整家族——从原始 BERT 到多语言跨语言模型、句向量专用模型、轻量蒸馏模型，围绕两篇论文的实际使用场景（计量语言学 + BERT 知识问答），对比各模型的适用性、优劣势与选型依据 - 2026-09-28
• Jev模型：不做决策之外的任何事 AI Jev TypeSafe
  TypeSafe AI 发布的 System One 决策模型 Jev，不生成文本、只做结构化判断，比 LLM 快 200 倍、便宜 400 倍的"决策层"是什么 - 2026-09-19
• bert-base-chinese 词表解剖：21,128 个词条里都有什么 AI BERT WordPiece
  用 Python 解析 bert-base-chinese 的 tokenizer.json，统计词表组成、验证繁简体处理、列出中文单字样本，实证 WordPiece 对中文退化为逐字切分 - 2026-09-14
• BERT 推理过程详解：第 2 步 从数字到答案 AI BERT 推理
  承接分词笔记，讲解 BERT 分类模型如何将 token ID 转为 logits，再通过 softmax、argmax 得到类别编号，最后查表返回预设答案 - 2026-09-14
• BERT 的 12 层 Transformer：每层在做什么？ AI BERT Transformer
  把 BERT 的 12 层 Transformer 类比为 12 位专家流水线，逐层说明从字面意思到词组含义再到句子意图的表征递进 - 2026-09-12
• BERT 分词过程详解：第 1 步 从文字到数字 AI BERT 分词
  拆解 BERT 分词全流程：切分为单字、查词表转 ID、填充到固定长度后送入模型，说明模型只处理数字不处理文字 - 2026-09-12
• BERT分类模型训练数据准备：从知识条目到问法变体 BERT 训练数据 HXXedge
  记录HXXedge系统BERT分类模型的训练数据准备流程，包括preset_qa.json的结构、问法变体生成机制、以及类别重复导致短问题分类失败的诊断与修复过程 - 2026-09-12
• bert-base-chinese：中文 BERT 原始模型详解 AI BERT bert-base-chinese
  bert-base-chinese 是 Google 2018 年发布的中文预训练 BERT 模型，解析其模型结构、词表与配置文件，以及作为中文 NLP 微调起点的用途 - 2026-09-11
• WordPiece 算法：BERT 的分词之道 AI BERT WordPiece
  WordPiece 子词切分算法的原理与优势：切得比字大、比词小，兼顾已知词与未知词，并说明其在 BERT 分词器中的落地方式 - 2026-09-11
• BERT分类模型ONNX转RKNN全流程实录 AI BERT ONNX
  将Colab训练的bert-base-chinese分类模型转换为RKNN格式并部署到香橙派RK3588 NPU的完整流程，包含IsNaN算子兼容性问题的诊断与策略反转 - 2026-09-11
• BERT模型详解：从原理到小模型变体 AI BERT 预训练模型
  BERT（Bidirectional Encoder Representations from Transformers）模型的原理、架构特点、与GPT/Qwen的对比，以及TinyBERT/MobileBERT等小模型变体在文本分类任务中的应用 - 2026-09-10