ProTok：通过模块化多码本量化实现蛋白质统一分词

蛋白质的序列、结构与功能注释历来是互补的信息层面。经典流程遵循“序列—结构—功能”范式：I-TASSER 先由氨基酸序列组装三维模型，再通过与已知结构的匹配推断配体结合位点、EC 编号和 GO 条目等功能注释 ^[3]。深度学习大幅压缩了这条链路：AlphaFold 做到了即便无同源结构也能原子精度预测 ^[2]；仅凭序列训练的语言模型在 2.5 亿条蛋白序列上学到的表征已编码二级、三级结构信息 ^[4]，并在 150 亿参数规模下可直接从序列推断全原子结构，构建了覆盖逾 6.17 亿条宏基因组蛋白的图谱 ^[1]。但三种模态仍多由各自独立的模型与表征处理：低序列相似性下的远程同源检测需要专门的深度学习方法 ^[6]，在蛋白质与抗体工程中引入骨架坐标也被证明能带来明显收益 ^[5]。到了离散化这一层，瓶颈同样清晰——现有 tokenizer 对各模态独立编码，限制了离散蛋白表征的表达能力。

ProTok 正是冲着这个痛点来的。它以乘积量化构建模块化离散词表，为序列、结构与功能注释分别设置码本组，训练时引入模态丢弃，使单一检查点可从任意模态子集灵活推理而无需重训。评测基于 StructTokenBench——2025 年 6 月提出的结构 tokenizer 系统评测框架^[7]：在 7 个基准、14 项任务、28 个测试划分上，ProTok 在全部纯结构 tokenizer 中平均排名 1.4，21 个划分第一、28 个中 27 个居前二；CATH 4.2 上重建精度达 0.939 lDDT；在 CATH、EC、GO 标签层级上的零样本功能检索亦领先所有基线结构 tokenizer。生成侧，从零训练的紧凑语言模型在其词元上联合生成骨架与序列，采样骨架 52% 可设计，而参数量匹配的 GeoBPE 基线为 21%——后者是 2025 年 11 月报告在 tokenizer 性能、分布外泛化等方面推进最好水平的结构 tokenizer^[8]。

值得强调的是，这些收益并非以牺牲重建为代价换取：论文明确指出多码本量化与多模态训练让词元“既可重建又有信息量”。相对此前结构预测 ^[2][3]、功能注释与序列表征学习 ^[4] 分而治之的格局，ProTok 把三种模态装进同一条离散词元流，并为在此之上训练能够统一推理与生成的蛋白语言模型提供了直接依据。

当然，这仍是一篇未经同行评议的 arXiv 预印本，各项基准数字有待独立检验；摘要所展望的“在统一词元流上推理”的蛋白语言模型本身，以及生成骨架能否经受湿实验的设计验证，都还是悬而未决的问题。