DC娱乐网

OpenAI投资初创公司,旨在防范人工智能驱动的生物武器

ChatGPT母公司OpenAI于周四宣布,将投资一家专注于防范“不良行为者利用人工智能制造生物武器”的初创公司。

该初创公司联合创始人汉努・拉贾尼米表示,在RedQueenBio公司1500万美元的种子轮融资中,OpenAI是领投方。RedQueenBio的核心目标是确保人工智能行业的防御能力发展速度,至少不落后于那些试图利用AI模型危害人类的势力。

此次投资是OpenAI“投资初创公司以遏制人工智能风险”这一更广泛战略的一部分。上个月,OpenAI已对总部位于纽约的生物安全软件初创公司Valthos提供了支持。OpenAI首席战略官贾森・权(JasonKwon)表示,对于其他聚焦类似问题的初创公司,OpenAI也会考虑投资。

“我们希望提升整个生态系统的整体抵御能力,”贾森・权在采访中表示,“应对风险缓解的最佳方式之一,就是借助更多技术手段。”

研究人员与安全倡导者指出,人工智能技术有望加速药物研发或设计新型疫苗,但这些能力也可能让“不良行为者”更容易开发出新型、强效的生物武器。

RedQueenBio脱胎于HelixNano公司——后者是一家处于临床阶段的mRNA治疗公司,在药物设计中已较多应用人工智能技术。贾森・权透露,HelixNano此前也与OpenAI合作开发过“用于评估人工智能生物风险”的测试方法。

作为此次交易的一部分,OpenAI首席执行官山姆・奥特曼(SamAltman)与董事会成员妮可・塞利格曼(NicoleSeligman)将获得RedQueenBio的股份——两人此前均曾投资过HelixNano。贾森・权则通过硅谷初创企业孵化器YCombinator间接持有该公司股份,OpenAI表示其持股价值不足2500美元。

OpenAI一位发言人指出,上述高管均未参与OpenAI对RedQueenBio投资的审批流程。此次投资由OpenAI首席合规官及董事会中“无利益冲突的成员”共同审核并批准。

RedQueenBio将结合人工智能模型与更传统的实验室实验,一方面发掘新的生物风险,另一方面开发新的防御手段。该公司的名称源自刘易斯・卡罗尔(LewisCarroll)小说《爱丽丝镜中奇遇记》(ThroughtheLooking-Glass)中的一个场景。

“很明显,生物领域的技术能力发展速度超出了我们的预期,”拉贾尼米表示,“我们认为,有必要着手开发相应的防御手段。”

参与RedQueenBio本轮融资的其他投资方包括刻耳柏洛斯风险投资公司(CerberusVentures)、五十年风投(FiftyYears)与哈尔西恩未来投资公司(HalcyonFutures)。