CSHL Leading Strand 访谈 Anthropic Jonah Cool：前沿 LLM 嵌入科研全流程与三类核心风险

CSHL Leading Strand 邀请 Anthropic 的 Jonah Cool 讲前沿大模型（frontier LLM）如何嵌入科研全流程，并分享他看到的机遇与三类核心风险。

• 科研生命周期覆盖：从文献综述、假设生成、实验设计、代码 / 数据分析、到论文写作与同行评审辅助，LLM 正成为"科研副驾"；强调把模型当作可对话的协作者而非单纯检索工具。
• 风险一（可靠性）：模型会自信地给出错误引用、错误协议或虚构结果，在实验科学中代价极高，需人类在环验证。
• 风险二（评估与基准）：科研任务的"正确性"难以自动评分，benchmark 易被过拟合；需要领域专属、可审计的评测。
• 风险三（可及性与依赖）：能力集中于少数闭源前沿模型，可能扩大机构间差距；同时过度依赖会削弱研究者的直觉与批判性训练。
• 定位与边界：AI for Science 方法论，