DC娱乐网

AI斗不过中国,日本右翼出阴招,给大模型“投毒”,篡改二战历史

日本AI产业远不如中国,日本右翼在AI大模型上却狠招频出,他们选择给大模型“投毒”,污染数据篡改历史,我们该如何防范和反

日本AI产业远不如中国,日本右翼在AI大模型上却狠招频出,他们选择给大模型“投毒”,污染数据篡改历史,我们该如何防范和反制?

近日外交部记者会上,有记者提到,日本右翼势力持续向国际主流大模型提供经过篡改的二战历史,被“投毒”的大模型在对话输出中有明显错误史观回答,甚至出现将日本侵略东南亚美化为“对南方资源的关心”。

外交部发言人毛宁强调,日本军国主义侵略罪行铁证如山,不容否认,日本右翼的行为是歪曲、美化侵略历史的新手段,目的是扭曲全球对二战的历史认知,帮助日本摆脱战后体制约束,为加速“再军事化”扫清舆论障碍。

日本右翼为何要搞AI“投毒”

中方这番发言,其实已经点出了日本右翼对大模型投毒的主要原因之一,即为日本变成“正常国家”铺路。日本右翼一直试图改变世界对二战认知,因为日本是二战法西斯,还是战败国之一,其行为被世界人民和绝大多数国家反对。

二战后的全球秩序安排之一,就是为了能约束日本的行为,防止世界再度出现法西斯和军国主义造成的悲剧。但这种安排也让日本右翼心怀不满,他们要么认为日本已经接受了惩罚,是时候变成正常国家,要么更激进认为,日本当时的行为根本没问题。比如高市早苗在当上首相之前,早年参加电视节目时,公开认可日本二战时期的行为。

如今激进右翼正式掌权,那么自然在全球二战历史方面的动作越来越频繁。不过除了这些之外,日本右翼污染大模型AI数据,篡改二战历史也体现出日本在AI产业上的相对落后,以及各国针对大模型的监管程度不同。

日本虽然经济在世界前列,曾经也经历过科技大爆发的时期,成为令美国都担忧的发达国家。然而,如今的日本吃老本的情况严重,在原本先进的领域逐步被追上,甚至难以维持领先地位。在更前沿新兴的领域则相对落后于世界,日本在高端制造业还有独特的优势,可是到了AI产业的大模型、应用规模、投资强度和产业生态,就与世界有很大差距了,与中国的差距就不小。

日本也有自己独特的大模型AI,但其规模和全球影响力明显落后于中国。在这个基础上,日本AI在全球市场上的占有率也不高,那么应用规模自然也远不如中国。中国的核心AI产业规模已经达到上万亿人民币,企业采用率达到98%左右,日本国产AI大模型却只有86%,付费意愿也更低。

在支持AI产业发展方面,日本政府的投资也明显低于中国,其人才和专利创新也不够。日本预计到2030年还有数十万的人才缺口。显然,在大模型上日本目前斗不过中国,日本右翼似乎也不是特别重视这种落后。从我们前面提到的问题来看,他们在大模型AI出现后,反倒更积极推动给AI投毒,篡改二战历史。

日本为何能给AI投毒,日本是怎么做的?

毕竟污染大模型数据,可不是简单提问,向其灌输一点错误文字就能改变的。日本右翼可能通过系统性方式,影响大模型的训练预料和检索、跨语言翻译与权重排序。

比如在公开网页、档案数据库、学术文本中持续注入经过措辞软化后的描述。大模型在训练时,高度依赖这些爬取的数据,英文日文相关资料先被抓取,就会进入大模型的数据。

所以日本右翼有意识地优化档案数字化,为其设计更友好的英文目录,让日本官方或右翼的相关查询在排名中靠前。日本政务AI生成的官方文件被公开后,再被大模型抓取,就能形成从官方到模型再到官方的循环。

然后在各国对AI监管各不相同的情况下,日本右翼很容易钻这些漏洞,各国对大模型爬取数据的监管较为放松,一些错误的描述也会被大模型采纳,而以美国为首的国家,并不会要求大模型必须做出纠正。

中方要如何反制?

在这种情况下,防范与反制大概需要靠中方自己了,所以要如何反制呢?我们前面已经提到,日本右翼给AI大模型投毒的方式,主要靠原始数据信息污染,在档案电子化数字化的阶段,就修改某些历史的措辞,让其他国家的AI采纳。

从这个角度来说,最直接的对抗方式,就是将我们的历史与档案数字化,同样为全球大模型提供足够的资料和数据,同时强化对正确历史观念的宣传,纠正日本右翼的歪曲说法,将这些纠正的内容,也纳入数字化的资料中。那么AI在训练和爬取数据时,就会自动对比,逐步消除数据污染。

除了我们自己的努力外,呼吁全球国家一同参与也是一个重要手段。各国仍认同二战后建立的国际秩序,这是团结各国的基础,那么就从这一点出发,联合多国推出某些重要的历史共识,建立跨国数字档案和科普网站。

这样既可以给全球提供更方便的历史科普,也能让AI大模型训练和爬取时,参考多方信源,对于纠正错误会更有帮助。至于监管方面,我认为很难让各国跟进,因为AI本身还是新兴产业,通常为了产业健康发展,各国不会给太多限制,只有AI相对成熟后,才会逐步细致监管。