跳到正文
Trending storyWatching

ProtModernBERT发布:计算高效的蛋白质语言模型

1 report1 sourceupdated 1 day ago

Start here

Synthesis

2026年10月14日,AI×生物医药领域发布了ProtModernBERT,这是一款采用现代化BERT架构的蛋白质语言模型。其在二级结构预测、无序预测、亚细胞定位及ProteinGym零样本功能基准上,匹配或接近Amplify-120M与ProtBert的表现,同时预训练FLOPs降低80–90%。在控制预训练条件后,该模型与ESM2的性能差距收窄。研究还指出,在低算力场景下,现代架构组件带来的归纳偏置对性能的影响超过单纯提升参数量。

Written by a model from the reports · updated 2 hours ago

Coverage timeline

Follow the coverage to see the different angles.

Oct 14
  1. AI × 生物医药
    ProtModernBERT:计算高效的蛋白质语言模型

    ProtModernBERT 是一款现代化 BERT 架构的蛋白质语言模型,在二级结构预测、无序预测、亚细胞定位及 ProteinGym 零样本功能基准上匹配或接近 Amplify-120M 与 ProtBert 的表现,预训练 FLOPs 降低 80–90%,控制预训练条件后与 ESM2 的差距收窄。在低算力场景下,现代架构组件带来的归纳偏置对性能的影响超过单纯提升参数量。

Heat trend for this story

当前热度 5·可比范围峰值 5(Oct 15 20:00)·近 24 小时可比范围变化 –

0246Oct15Oct15Oct15Oct15

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

CBACBA Frontier Insights (CFI)美国华人生物医药科技协会(CBA)www.cba-usa.org