DC娱乐网

原来 xAI 一直在用各种手段蒸馏 Anthropic…… 那两家现在还能合作,

原来 xAI 一直在用各种手段蒸馏 Anthropic…… 那两家现在还能合作,Anthropic 真是人在算力屋檐下,不得不低头了。

根据爆料,去年 8 月,Anthropic 开始严打其他公司对自己模型的蒸馏,并直接切断了 OpenAI 对其 API 的访问权限。

但 xAI 仍顶风作案,继续使用 Claude 开展了一项长达数月的模型蒸馏项目。于是今年 1 月,Anthropic 也同样切断了 xAI 对 Claude 的访问权限。

结果部分 xAI 工程师随后继续通过个人账号访问 Claude,Anthropic 不得不像打地鼠一样,挨个再封禁这些工程师的个人账号。

xAI 蒸馏无门的情况下,只能求助于 Blackbox AI —— 这是一家为调用其他公司 AI 模型提供加密服务的中介机构。xAI 可以通过该服务调用 Anthropic 的模型,以进行基准测试及其他工作。

一位曾参与该项目的人士表示,除了调用 Anthropic 模型的难度日益增加外,xAI 在近几个月还遭遇了至少一次重大的技术事故:一名员工在数据迁移过程中,意外删除了其 AI 编程产品的核心训练数据,丢失的数据相当于两到三周的工作量。

xAI 最初的目标是在去年年底前发布其代码模型的新版本,并同步更新其通用大模型。但这一目标最终未能实现,随后 xAI 调整方向,将该模型整合到了今年 5 月发布的开发者平台 Grok Build 中。

目前马斯克正积极引入自己旗下的其他人才来协助 xAI 的编程研发工作。

在今年早些时候,特斯拉的工程师获得了 Grok Build 测试版的早期访问权限,以便为其提供反馈。特斯拉 Autopilot 自动驾驶团队、AI 基础设施团队以及 Dojo 超算团队的成员已入驻 xAI,方便支援各项工作。

马斯克此前还向员工们分享了一项计划,打算引入 Cursor 和 Mistral AI 的技术专长,以填补关键技术空白并加速研发。

在他的早期计划中,法国 AI 实验室 Mistral 将协助 xAI 进行预训练,而 Cursor 将负责后训练,xAI 将提供基础设施。

今年 4 月,xAI 正式对外宣布达成一项协议,允许 Cursor 使用 xAI 的基础设施来训练其自有模型 Composer。此外,SpaceX 还可以选择在今年晚些时候以 600 亿美元收购 Cursor,或者支付 100 亿美元的违约金。

不过 xAI 与 Mistral 未能正式合作。Mistral 高管曾于 4 月中旬造访 xAI 总部并与其领导层会面,但最终分道扬镳。加入 xAI 并负责领导预训练工作的 Mistral 创始工程师 Devendra Chaplot,也已经在 5 月离职。

由于 Cursor 的协助,xAI 得以对原来的预训练团队大清洗。截至 5 月中旬,该公司的预训练团队已不足 5 人,而前一年该团队的规模还有二十余人。

在短短几个月内,xAI 的 Grok Code 团队负责人已经换了至少四任,最近离开的是今年 5 月离职的 Beibin Li。