『经济学人』认为以目前的 AI 能力,还不至于教会普通人制作生物武器,但已经足够被警惕。
在 SecureBio 开发的病毒学能力测试中,三十多位顶级专家曾被邀请做了其中部分题目,平均正确率只有 22%。
今年 2 月,生物学小白们也借助 AI 参与了这项测试,正确率是 28%。更夸张的是,让几个 AI 模型自己去裸考,最新模型能达到 55% 到 61% 的正确率。
但另一项放置在实验室的测试中,结果就大不相同。即使借助 AI,也只有极少的普通人可以完成既定的实验目标。
密歇根大学医学院微生物学与免疫学教授 Michael Imperiale 认为,纸面知识和精密的病毒学实验是两码事。AI 在考试里很能打,但到了实操环节,它的表现更像一个能说会道但没碰过移液枪的实习生。
很多时候 AI 会产生幻觉,给出完全错误的建议。
这里面就藏着一个悖论,如果一个人走进病毒实验室,但需要 AI 模型的帮助,那他恰恰不具备判断 AI 模型给出的建议是否正确的能力。
看到这,你应该认为 AI 距离帮普通人制造生物武器还很远,但参与过上面两项研究的作者 Luca Righetti 提醒,绝对不能对 AI 掉以轻心。毕竟试验中确实有少数零基础的参与者成功合成了病毒(尽管是无害的)。
如果 AI 的帮手是有实操能力、生物学知识的犯罪分子,那危害性就更大。
比如有种新兴的生物设计 AI 工具,不生成文字而是生成核苷酸序列,理论上可以用来修改现有病原体,使其毒力更强、传播性更高、更能逃避现有防御手段。
何况,以现在 AI 的进化速度,谁能想象几年后它们的能力会有多恐怖呢?
