grasp:用函数梯度引导的语言模型学习概率逻辑程序
Learning Probabilistic Logic Programs with Functional Gradient Guided Language Models
提出名为 grasp 的神经符号框架,将关系结构学习建模为函数梯度提升,以一阶规则为弱学习器、由 LLM 承担内部搜索的提议 oracle。在涵盖分子毒性预测(Tox21)、致突变性和 Cora 引文匹配等 4 个关系基准上的评估显示,该方法优于纯符号、纯神经及纯 LLM 基线,并以梯度引导的 LLM 假设生成取代组合搜索,保留可解释的加权规则集成。
发生了什么
作者提出了一个名为 grasp 的神经符号框架,把关系结构学习表述为函数式梯度提升:弱学习器是一阶规则,原本不可行的内层组合搜索被交给大语言模型充当的提议 oracle。在覆盖 Tox21 分子毒性预测、mutagenesis 和 Cora 引文匹配的四个关系型基准上,grasp 优于纯符号、神经以及基于 LLM 的基线,同时产出可解释的加权规则集合。
为什么重要
这项工作直指领域里一个悬而未决的矛盾:从数据归纳声明式逻辑程序受制于符号搜索空间的组合爆炸,而 LLM 单独使用又缺乏可靠合成有效程序所需的系统性归纳推理。grasp 用梯度引导的 LLM 假设生成替代组合搜索,既保住了 boosting 的保证,又不牺牲符号输出的透明性,这对制药研发中需要解释毒性预测依据的场景是直接的加分项。把 LLM 用作内层搜索的提议 oracle、外层由梯度提升驱动,这套范式可以迁移到其他需要结构化假设生成的药物发现问题。
还缺什么
这是未经同行评议的 arXiv 预印本,材料没有给出任何具体提升幅度或各基线的对比数字,待确认。代码是否开源、计算成本、在更大规模分子数据或真实药物研发管线上的表现均未披露。下一步看同行评议后的修订版,以及作者是否把框架扩展到毒性预测之外更贴近药物发现的关系学习任务。
来源:AI × 生物医药 · arxiv.org