跳到正文
原文
AI × 生物医药· arXiv · cs.LG·· 3 小时前评分47

DNA 基础模型在序列组成之外学到了什么:5 款 FM 在 57 个基因组数据集上的对比评测

What DNA Foundation Models Learn Beyond Sequence Composition

导读

在 5 款 DNA 基础模型与 k-mer 组成特征的对比中,NTv3 在 57 个基因组分类数据集上展现稳定优势:6-mer 特征与其嵌入拼接后于 46 个数据集上获得提升(平均 ΔMCC=+0.072),Caduceus 仅带来小幅增益,其余模型平均 MCC 未见改善。通过 6-mer 保留置换与嵌入分解,研究发现线性可恢复性并不能可靠预测下游效用,序列顺序敏感性在 NTv3 中最为明显。

深度解读

在基因组序列预测这条线上,k-mer 计数一直是廉价而坚实的特征,但 k 一大计数便趋于稀疏,gkm-SVM 为此引入带缺口的 k-mer,在功能调控元件和组织特异性增强子预测上把精度提高至多一倍 [1]。深度学习随后接管了许多任务,例如 CNN 在从大肠杆菌到人的启动子识别上都取得高准确率 [2]。近两年轮到基础模型登场:对五个 DNA 基础模型的系统基准评测显示,零样本嵌入的表现随任务和数据集波动,均值 token 嵌入池化最为稳定 [3];基于 Nucleotide Transformer 预训练嵌入的模型在个体化基因表达预测的跨个体相关性上也超过了 Enformer [4]。但一个根本问题悬而未决:这些冻结表征携带的预测信息,究竟有多少只是序列组成本身就能给出?

这篇预印本正面回答了这个问题。作者在 57 个基因组分类数据集和两个探索性基因表达回归任务上,将五个 DNA 基础模型的冻结嵌入与归一化 k-mer 频率对垒:简单 k-mer 特征与多数模型打平,只有 NTv3 表现出一贯优势,且该排序在全局固定、多尺度 k-mer 基线及不同下游探针下均稳健。更直接的增量检验是在全局 6-mer 特征上拼接各模型嵌入、在统一的随机森林协议下比较:NTv3 在 57 个数据集中的 46 个上带来改进,平均 ΔMCC 为 +0.072;Caduceus 增益较小,其余模型平均 MCC 不升。这对 Caduceus 尤有意味——它此前在下游基准上被证明优于先前的长程 DNA 模型[5],可在以组成为对照的检验中优势并不突出。

论文还给出两个诊断视角:把嵌入分解为可由 6-mer 频率线性预测的成分与岭回归残差,发现线性可回收性并不能可靠预示下游效用;保持 6-mer 不变的精确洗牌则揭示了任务相关的序列顺序敏感性,以 NTv3 最为明显,但顺序敏感本身并不保证预测改进。

相比以往按任务排座次的基准测试 [3],这项工作把“组成特征是必备对照”确立为评测前提,并以增量拼接、线性分解、保序洗牌构成一套互补诊断,用来追问冻结表征到底多带了什么信息;据报道,另一项预印本同样发现 k-mer 模型在每一项下游任务上均优于所比较的基因组基础模型[6],指向同一警讯。局限也很清楚:只评冻结表征、不涉及微调能力,两个回归任务仅为探索性,论文尚为 arXiv 预印本、未经同行评议,线性可回收性与顺序敏感背后的机制亦无答案。

来源:AI × 生物医药 · arxiv.org