预训练与检索阶段对蛋白质设计系统语料的投毒攻击

研究展示了针对蛋白质设计系统的两类投毒攻击：瞄准自回归蛋白语言模型的预训练语料与文本引导蛋白生成器的检索语料。ProtGPT2 与 ProGen2（300M 参数）经投毒训练均可稳定生成含触发序列的载荷；斜坡投毒下 200 条样本即可触发多数激活，均匀投毒约需 5000 条。检索投毒中，单条查询感知记录在 58% 模板与 97% 自由文本请求中进入前 16 位，62% 请求返回被改写序列。