大模型为什么啥都知道,关于 Anthropic 毁掉书籍训练 Claude 的事情
《纽约客》又扒出来了一些更有意思的细节。 今年年初,美国一些二手书商发现订单突然变得很奇怪。
一个布鲁克林书商以前一年在 Alibris 上都卖不到 10 本书,突然开始一次收到十几本的订单,而且专挑冷门书,平均每本能卖到 75~80 美元。 买家也不像正常人,订单来自 Green Parrot Project、Red Sparrow Project 这种莫名其妙的 LLC(Limited Liability Company)。
有个书商实在太好奇了,直接往卖出去的书里塞了一张 GPS 追踪卡。 结果一路追到伊利诺伊州 Addison 的 ARC Document Solutions 工业扫描厂。
这家公司很多扫描中心 24 小时运转,自己宣传过,一个客户每个月送来的文件量,相当于「一个足球场大小、箱子堆四层」 更有意思的是它们到底在买什么。 《纽约客》从书商手里收集了 600 多本疑似卖给 AI 公司的书。
大部分出版于 1970 年代到 2010 年代,很多首印只有 1000 本甚至更少;出现最多的 10 家出版社里,8 家是学术出版社,整个样本大约三分之一都是学术出版物。
里面有法律、历史、文学批评,也有《Utilization of Municipal Wastewater Sludge》这种 1972 年出版的污水污泥处理手册。
Anthropic 研究员 Mycal Tucker 在证词里还说,非虚构作品通常比小说更有训练价值,这些书能提升模型在哲学、天文学等专业领域的表现。
Anthropic 最开始可以找批发商按吨买书,等大路货扫得差不多,又开始通过壳公司钻进美国二手书网站,一本一本补那些互联网和现成数据库里缺失的长尾资料。 连一个几十年没人看的污水处理手册,都有人专门下单、运输、切开、扫描,再塞进 Claude。