当地时间9月10日，AI企业Anthropic发布最新威胁报告，曝光行业核心安全困境：有用户利用Claude模型开展生物领域研究，平台无法精准界定用户行为是合法医药科研，还是生物武器研发，暴露高端AI工具普遍存在的两用性管控难题。
报告统计，在30天监测周期内，平台共发现35项具备潜在生物安全风险的研究行为，其中5起案例明确涉及可支撑生物武器研发的操作。相关使用者刻意规避平台安全管控、隐瞒研究目的，绕过区域使用限制，通过伪装研究诉求规避AI安全防护机制。针对违规行为，Anthropic已封禁相关涉事账户，并将本次监测结果纳入模型安全防护与威胁情报体系迭代优化。
此次风险案例均来自Claude旧版模型，并非最新迭代产品，排除了全新模型失控的极端情况，但凸显了AI安全的核心漏洞：风险并非源于模型暴力突破防护，而是来自人为刻意伪装与规避。其中典型案例涉及基孔肯雅病毒功能获得性研究，相关研究包含病毒突变设计与活体动物实验，可对接军事科研项目，大幅压缩生物研究从理论到落地的周期。
本次事件的核心痛点在于意图判定的模糊性。生物领域研究本身边界宽泛，病毒改良、毒素研究等内容，既可用于疫苗研发、公共卫生防控等合规场景，也可被用于生物武器开发，没有绝对清晰的道德与安全划分标准。这也导致Anthropic无法核实涉事用户的真实动机，无法定性相关研究的最终用途。
行业分析指出，AI安全的核心矛盾已从模型能力失控，转向人机博弈下的监管滞后。随着AI工具通用性、便捷性大幅提升，无需专业技术能力即可实施风险操作，普通使用者便能模糊科研与危险研发的边界。相较于可量化的技术漏洞，人为动机的不可控、科研场景的天然两用性，成为AI生物安全最难破解的问题。
业内总结，本次报告并非证实AI生物武器威胁已落地，而是警示行业现状：高端AI工具的技术能力迭代速度，远超监管与安全分类体系的更新速度。模型防护可以持续迭代优化，但无法彻底规避人为动机带来的滥用风险，AI安全管控将长期处于动态博弈状态。
