📌 关键要点
本文论文的方法论核心：2 种模型 × 3 种指标，从语义、正字法、可预测性三个维度量化书面语言距离。
- 模型：LaBSE（跨语言对齐专用）+ mBERT（多语言理解 + MLM）
- 指标：句向量距离（语义）+ 碎片化率（正字法）+ MLM 置信度（可预测性）
- 三指标独立计算、共同指向同一结论 → 结论具有模型无关性与指标互补性
- 全部指标均为纯计算指标，无需人类被试，完全可复现
| 属性 | 值 |
|---|---|
| 论文 | Feng et al. (2022) ACL |
| 参数量 | ~471M（基于 mBERT 架构） |
| 模型大小 | ~1.8 GB |
| 向量维度 | 768 维句向量 |
| 支持语言 | 100+ 种 |
| 训练方式 | 翻译对训练（translation pair training） |
| HuggingFace | sentence-transformers/LaBSE |
核心特点： 1. 专为跨语言句向量对齐设计——不同语言的句子经编码后落在同一向量空间，语义相似的句子向量距离近 2. 训练目标直接优化跨语言对齐质量：用翻译对（如中↔英、法↔德）做对比学习，使翻译句对的向量尽可能接近 3. 输出固定 768 维句向量，用余弦相似度衡量跨语言语义距离
在本论文中的角色： - 指标 1（句向量语义距离）的主力模型 - 对 150 组三语平行句分别编码，计算两两余弦距离 - 结果：da-no 最近（0.012），no-sv 居中（0.016），da-sv 最远（0.020）
局限： - 不支持 MLM（遮词预测），无法提供可预测性指标 - 模型体积大（~1.8GB），推理成本高于 mBERT
| 属性 | 值 |
|---|---|
| 论文 | Devlin et al. (2019) NAACL |
| 参数量 | ~172M |
| 模型大小 | ~700 MB |
| 向量维度 | 768 维（[CLS] 句向量 / token 级隐藏状态） |
| 支持语言 | 104 种 |
| 训练方式 | MLM + NSP（遮词预测 + 下一句预测） |
| HuggingFace | google-bert/bert-base-multilingual-cased |
核心特点： 1. 多语言 MLM 训练——在 104 种语言的维基百科上联合训练，学会了跨语言的上下文预测能力 2. 跨语言对齐是训练的副产品（非显式优化），但已被 Rama & Beinborn (2020) 证实能反射语言谱系关系 3. 同时支持句向量编码和 MLM 遮词预测，是论文中唯一同时承担两种指标的模型
在本论文中的角色： - 指标 1 的验证模型：用 mBERT [CLS] 句向量重算距离，验证 LaBSE 结论的模型无关性 - 指标 3（MLM 置信度）的唯一模型：对逐位遮词的句子做 top-1 预测，统计置信度、熵、正确率
与 LaBSE 的分工：
| LaBSE | mBERT | |
|---|---|---|
| 跨语言对齐 | 显式优化（翻译对训练） | 隐式习得（MLM 副产品） |
| 句向量分辨率 | 高（能区分三个梯度） | 中（no-sv 与 da-sv 几乎并列） |
| MLM 能力 | ❌ 不支持 | ✅ 支持 |
| 模型大小 | ~1.8 GB | ~700 MB |
测量角度：语义编码相似度
计算方法：
1. 用 LaBSE / mBERT 对每条平行句编码，得到 768 维句向量
2. 计算同语言对（如 da↔no）所有句对的余弦相似度
3. 取中位数作为该语言对的语义距离：distance = 1 − median(cosine_similarity)
数据：
| 语言对 | LaBSE 距离 | mBERT 距离 |
|---|---|---|
| da ↔ no | 0.012 | 0.016 |
| no ↔ sv | 0.016 | 0.045 |
| da ↔ sv | 0.020 | 0.046 |
解读：距离越小 → 两种语言的句子在向量空间中越接近 → 语义编码越相似
优势：直接衡量语义层面的跨语言对齐质量，与人类语义直觉一致 局限：对近缘语言（距离 <0.05）分辨率有限，需配合其他指标
测量角度：正字法 / 分词效率
计算方法：
1. 用源语言的单语 BERT tokenizer去切分目标语言的文本
2. 计算 碎片化率 = 子词数 / 空格词数
3. 碎片化率越接近 1 → 两种语言的正字法越相似 → tokenizer 切分越高效
注意：这里用的是三个单语 BERT tokenizer（danish-bert-botxo / nb-bert-base / bert-base-swedish-cased），不是 mBERT
数据（以挪威语 tokenizer 切分为例）：
| 切分方向 | 碎片化率 |
|---|---|
| no 词表切 da | 1.500 |
| no 词表切 sv | 1.707 |
→ da 用 no 词表切分最高效（1.500 < 1.707），佐证 da-no 正字法最接近
解读：碎片化率反映的是正字法层面的相似性——共享字母表、相似拼写规则的语言，tokenizer 跨切效率更高
优势：纯自动计算，无需人工标注，对正字法差异敏感 局限：只适用于共享字母表或相似文字系统的语言；对文字系统完全不同的语言对（如中文↔英文）不适用
测量角度：上下文可预测性
计算方法： 1. 用 mBERT 对每种语言的句子逐位遮词（mask 每个子词 token） 2. 统计 top-1 预测的置信度（softmax 概率）、熵（bit）、正确率 3. 同时统计 top-10 召回率（候选集覆盖能力）
数据：
| 语言 | top-1 置信度 | 预测熵 (bit) | top-1 正确率 | top-10 召回率 |
|---|---|---|---|---|
| 丹麦语 | 0.2581 | 6.0705 | 0.1217 | 0.5525 |
| 挪威语 | 0.2371 | 6.3218 | 0.1078 | 0.5580 |
| 瑞典语 | 0.2389 | 6.2896 | 0.1089 | 0.5615 |
→ 丹麦语置信度最高、熵最低 → 丹麦语文本在 mBERT 下最可预测
解读：置信度高 → 模型对该语言的上下文规律掌握得更好 → 可能是训练语料覆盖度高，也可能是语言本身的正则性更强
优势：探索性指标，揭示了模型对不同语言的"熟悉程度"差异 局限：受 mBERT 训练语料分布影响（各语种覆盖度不均），不宜作为决定性指标；LaBSE 不支持 MLM，无法交叉验证
| 指标 | 测量角度 | 模型 | 模态 | 可复现性 |
|---|---|---|---|---|
| 句向量距离 | 语义编码 | LaBSE + mBERT | 书面 | ✅ 完全 |
| 碎片化率 | 正字法 | 三个单语 BERT tokenizer | 书面 | ✅ 完全 |
| MLM 置信度 | 可预测性 | mBERT | 书面 | ✅ 完全 |
核心逻辑：三个指标从完全独立的角度测量语言距离，如果它们给出一致的距离排序，则结论的稳健性远高于单一指标。
本文结果：三指标共同指向 da-no 最近 → 结论具有多维度一致性。
当前使用 LaBSE + mBERT（2019–2022 年的模型），未来可替换或新增：
| 模型 | 类型 | 优势 | 适用场景 |
|---|---|---|---|
| XLM-R (Conneau et al. 2020) | Encoder | 100 语言，MLM + 跨语言对齐 | 同时承担句向量 + MLM 两种指标 |
| InfoXLM (Chi et al. 2021) | Encoder | 显式跨语言对比学习 | 跨语言句向量对齐 |
| multilingual-e5-large (Zhang et al. 2024) | Encoder | 最新 SOTA 句向量 | 更高分辨率的语义距离 |
| Whisper (OpenAI 2023) | Encoder | 语音编码 | 语音模态距离（阶段 2） |
| Wav2Vec2 (Baevski et al. 2020) | Encoder | 自监督语音表示 | 语音模态距离 |
| mGPT / multilingual-GPT | Decoder | 生成式多语言模型 | 生成式可预测性指标 |
🔮 推荐优先级
- XLM-R（最优先）——可同时替代 LaBSE 和 mBERT 的角色，一个模型搞定全部三个指标
- multilingual-e5-large（句向量升级）——2024 年 SOTA，分辨率远高于 LaBSE
- Whisper（模态扩展）——引入语音模态，实现书面—语音多模态框架
除现有三指标外，可新增的量化指标：
| 新指标 | 测量角度 | 方法 | 对标文献 |
|---|---|---|---|
| n-gram 交叉熵 | 字符分布距离 | 字符级 n-gram 频率的交叉熵 | Gamallo (2017) |
| Levenshtein 词汇距离 | 词汇差异 | 同源词比例 / 编辑距离 | Gooskens (2007) |
| 困惑度 (Perplexity) | 语言模型适应度 | 用 A 语言 LM 计算 B 语言文本的 PPL | Bortoletto (2018) |
| Attention Transport Distance | 最优传输距离 | 注意力权重的最优传输度量 | Zhao et al. (2026) |
| Tokenization fertility (mBERT) | 正字法（多语言） | 用 mBERT tokenizer 跨切 | Ahia et al. (2023) |
| 语音距离 | 发音差异 | Whisper 编码 + 余弦距离 | 本文阶段 2 |
当前仅覆盖北日耳曼三语（da/no/sv），后续可扩展至：
| 语组 | 语言 | 近缘关系 | 预期特征 |
|---|---|---|---|
| 伊比利亚罗曼语 | 葡萄牙语 / 西班牙语 / 加泰罗尼亚语 | 极近缘 | 书面距离极小，类似北欧但词汇差异更大 |
| 斯拉夫语 | 捷克语 / 斯洛伐克语 / 波兰语 | 近缘 | 捷克-斯洛伐克互懂度极高，可对比北欧 |
| 低地德语组 | 荷兰语 / 南非荷兰语 / 弗里斯兰语 | 近缘 | Gooskens 已测，可直接对照 |
| 罗曼语跨支 | 法语 / 意大利语 / 西班牙语 / 葡萄牙语 | 中等近缘 | 距离梯度更大，检验框架分辨率 |
| 日耳曼跨支 | 英语 / 德语 / 荷兰语 | 远缘日耳曼 | 检验框架在更大距离下的适用性 |
扩展时的注意事项： 1. 碎片化率要求语言共享字母表（或至少有字符映射），对西里尔字母、希腊字母等需额外处理 2. MLM 置信度受训练语料覆盖度影响，小语种（如弗里斯兰语）的 mBERT 覆盖可能不足 3. 句向量距离在距离较大时分辨率更好（0.1~0.3 区间），近缘语言的距离差异很小（0.01~0.05），需更高分辨率的模型
📖 资料来源： - LaBSE 论文 (Feng et al. 2022) - mBERT 论文 (Devlin et al. 2019) - 相关笔记：Gooskens2007 近缘语言互懂度与语言距离 | 向量计量语言学 | 计算语言学与计量语言学