9月10日，Anthropic披露了5起值得警惕的案例：科研人员曾使用其Claude模型开展具有明显“双重用途”的生物学研究，包括基孔肯雅病毒功能增强研究、高致病性禽流感适应哺乳动物实验、正痘病毒免疫逃逸以及毒素优化等。Anthropic发现后封禁了相关账户，并加强模型防护。但公司特别强调，它不能认定这些科研人员有制造生物武器的主观意图。
这里最难处理的，恰恰不是识别一句“帮我制造生物武器”这样的明显请求，而是正常科研和危险研究之间存在重叠。比如研究禽流感怎样适应哺乳动物，可以帮助科学家提前发现具有大流行风险的自然变异，也可能产生怎样人为增强病毒的知识。Anthropic披露的一名研究人员通过美国服务器从不受支持地区访问Claude，数周内交换数千条信息，用AI辅助实验设计、数据分析和实验优先级判断。
这说明当前AI生物安全更现实的风险，并不是聊天机器人已经能够独自“造出生物武器”，而是它正在降低获取专业知识、设计研究和处理复杂信息的成本。同一份报告还记录了Claude被用于网络攻击、监控、政治影响活动以及导弹、无人机等常规武器研发；部分行动已经从普通问答发展到让AI承担软件开发、数据处理甚至自动化操作。
前Anthropic和OpenAI研究员雅各布·考克森近期辞职后警告，未来更强的AI可能攻击关键基础设施，甚至帮助制造“灭绝级生物武器”。这是他对未来风险的判断，不是已经发生的事实；他自己也承认，担忧主要指向能力继续提升后的系统。ABC News
因此，这份报告真正提供的新证据，不是证明AI已经具备独立制造大规模杀伤性武器的能力，而是危险用途已经不再完全停留在实验室安全测试中：现实用户确实在尝试把通用AI接入高风险科研和军事工作。接下来的难题，是怎样在不封死疫苗、药物等正常科研用途的同时，更早识别那些表面合法、实际风险不断累积的使用链条。