bioRxiv Genomics· Bertolini Agnoletto, L., Curion, F., Petrillo, M., Leoni, G., Ronco, M., Ruiz Serra, V., Consoli, S., Ceresa, M. ·· 2 天前评分37
Evo 2 作为分类机器的证据:来自情境学习与机制可解释性的研究
Evo 2 as a classification machine: evidence from in-context learning and mechanistic interpretability
导读
Evo 2 在涵盖生物与人工序列的五项二元分类任务中展现出稳健的情境学习能力,其在较短自然序列上表现优异(miRNA F1=0.902,Toxins F1=0.785),但性能随序列长度增加而下降并在千碱基尺度上崩溃。研究还发现模型缩放并无益处,7B 参数模型系统性地优于 40B 变体。机制可解释性分析揭示了预测与泛化之间的权衡,并表明模型可能追踪提示的结构而非信号承载内容。
来源:bioRxiv Genomics · biorxiv.org