Trending storyWatching
ProtModernBERT发布:计算高效的蛋白质语言模型
1 report1 sourceupdated 1 day ago
Start here
Synthesis
2026年10月14日,AI×生物医药领域发布了ProtModernBERT,这是一款采用现代化BERT架构的蛋白质语言模型。其在二级结构预测、无序预测、亚细胞定位及ProteinGym零样本功能基准上,匹配或接近Amplify-120M与ProtBert的表现,同时预训练FLOPs降低80–90%。在控制预训练条件后,该模型与ESM2的性能差距收窄。研究还指出,在低算力场景下,现代架构组件带来的归纳偏置对性能的影响超过单纯提升参数量。
Written by a model from the reports · updated 2 hours ago
Latest developmentOct 14 20:00
ProtModernBERT以80–90%更低的预训练FLOPs匹配或接近Amplify-120M等模型表现。Coverage timeline
Follow the coverage to see the different angles.
Oct 14
- AI × 生物医药ProtModernBERT:计算高效的蛋白质语言模型
ProtModernBERT 是一款现代化 BERT 架构的蛋白质语言模型,在二级结构预测、无序预测、亚细胞定位及 ProteinGym 零样本功能基准上匹配或接近 Amplify-120M 与 ProtBert 的表现,预训练 FLOPs 降低 80–90%,控制预训练条件后与 ESM2 的差距收窄。在低算力场景下,现代架构组件带来的归纳偏置对性能的影响超过单纯提升参数量。
Heat trend for this story
当前热度 5·可比范围峰值 5(Oct 15 20:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。