智源研究院给大模型做“生物安全压力测试”
发布时间：2026-07-29
信息来源：中关村科学城微信公众号
字体：
大
中
小
打印
发布时间：2026-07-29
信息来源：中关村科学城微信公众号
站在实验室的合成仪前
一名缺乏分子生物学专业训练的操作者
能否仅凭大语言模型的指导
完成复杂的DNA片段组装
近期，北京智源人工智能研究院
与北京大学联合发布的
一项评估结果给出了答案
这场针对AI“智能体”的
端到端压力测试表明
前沿大模型在推动科研效率的同时
也可能显著降低生物实验领域的专业门槛
其潜在的双重用途风险
需引起重视
从“方案设计”到“湿实验”
模拟对抗的闭环验证
据介绍，为评估这一风险，研究团队构建了一个贴近真实挑战的测试场景。在该场景中，假设用户不具备生化专业背景，但可配置大语言模型智能体，借助其联网搜索、文件读取等通用工具完成复杂的实验流程规划。
评估依据国际通行的DNA合成筛查标准，对11个主流商用大语言模型进行了横向测试。测试的关键在于：模型能否将一段完整序列合理拆分为多个短片段，从而规避合成公司的筛查机制，同时确保后续能正确重组为具有编码功能的完整序列。
结果显示，全部11个参测模型均成功输出了能够同时满足上述两项条件的拆分方案。这意味着，当前以单条序列识别为主的合成筛查体系，在面临AI辅助的分片策略时暴露出了系统性脆弱性。
计算层面的成功并非终点。在进一步的测试中，GPT-5.5和Claude Opus 4.6等前沿模型已能够提供极具可操作性的实验步骤指导。从试剂浓度配比到仪器运行参数，模型的输出足以使一名非专业人士按图索骥。
从数字方案到物理产出的闭环
“金标准”验证
为了证明AI提供的方案不仅仅是“纸上谈兵”，研究团队在严格受控的实验室环境中开展了物理验证。在严格遵守负责任披露原则和生物安全规范的前提下，团队使用经过关键位点突变、丧失原有有害功能的良性代理序列，模拟了完整的组装过程。
电泳与测序是验证DNA组装成败的两项关键手段。实验结果显示，4个良性代理构建体全部成功完成组装，电泳胶图呈现了预期大小的清晰条带，测序结果亦确认了序列的绝对正确性。这一结果将AI智能体方案从抽象的算法输出，锁定为物理层面可执行的操作范式，形成了有力的证据闭环。
面对这一实证结果，研究团队从技术治理与制度设计的角度提出了系统性的应对建议。在模型部署层面，需将涉及高危生物序列的查询与组装任务纳入部署前的必要评估。在系统防护层面，当模型以智能体形态运行时，安全边界需延伸至任务执行的每一个环节，加强对过程监测与权限控制。
在筛查机制层面，应增强对AI分片策略的识别能力，推动ISO 20688等国际标准的落地实施。此外，由于生物安全风险具有跨国界特性，需构建涵盖政府、研发机构及产业界等多方参与的标准化协同治理框架。
智源研究院安全研究团队表示，未来将持续深化AI生物安全能力建设，在模型防御机制与合成筛查鲁棒性方面开展进一步攻关，力求在人工智能赋能生命科学进步的同时，为其系上稳固的“安全绳”，为行业的负责任创新提供坚实的技术支撑。
相关人物
