文心大模型日调用量超6亿次,百度凭的是什么?

科技电子阿尔法 2024-08-24 02:10:59

导语:解决大模型“应用之难”,百度Q2财报秀了一波肌肉。

对AI展开过哲学层面思考的维特根斯坦,曾有一个著名的论断:“意义即使用”。

搁置其潜在的哲学意义,放在现实语境中看,这一论断相当早地道出了AI的本质:要好用。

进入2020年以来,随着大模型的兴起,自然语言处理技术的快速进步,AI技术迎来厚积薄发的时期。

在技术大爆发后,大模型的“应用之难”逐渐浮出水面。“怎么才能用好AI”,已成为企业在大规模部署AI时碰到的新挑战。

从资本流向与公司财报看来,这一难题正在得到解决。

以文心大模型为例,百度(BIDU.US; 09888.HK)2024年Q2财报电话会披露,文心大模型日均调用量超6亿次,半年增长超10倍,日均处理Tokens文本超1万亿,均为国内最高。与此同时,智能云在本季度营收达51亿元,同比增长14%;AI带动云营收同比增9%,高于上一季度的6.9%。

不论是在为外部行业赋能,还是为自家业务输血,百度大模型在应用层面都交出了一份非常不错的成绩单,向外稳稳秀了一波肌肉。

01 文心大模型,疾驰向前

“百模大战”之下,大模型数量多了,落地却成了软肋。

巨头们躬身入局,中小科技公司也想分一杯羹。但与庞大数量相对的,是应用端的短板。许多大模型被搁置、蒙尘,无法进入广阔的应用市场。

一些研究机构建议,不应仅仅将技术指标当作证明大模型成功的标准,而应该更加关注实实在在的业务指标。

而衡量大模型是否被市场接受的直接业务指标,无疑是日调用量。

与一些对调用数据讳莫如深的公司不同,百度Q2财报电话会大方地公布了文心大模型的日调用量数据:

季度内,文心大模型日调用量超6亿次,日均tokens使用量超1万亿,均为国内最高。

对比其他日均tokens从百亿级(MiniMax与智谱AI)至千亿级(豆包大模型)的大模型,毫不夸张地说,百度在大模型应用落地上的步伐是国内厂商里最快的。

体量是一方面,更值得瞩目的是增长速度。百度Q1财报,文心大模型的每日API调用量约为2亿次,而去年12月仅为5000万次。

半年的时间,增加了超10倍。

高速增长的调用量,意味着大模型“更好用”,在体感方面,即更快的速度,更好的体验,以及更便宜的价格。

文心大模型4.0Turbo的核心优势,便是速度与效果,这得益于百度在数据、基础模型、对齐技术、提示、知识增强、检索增强和对话增强等核心技术上的持续创新。

文心大模型优势,来源:文心大模型官网

在价格方面,文心大模型4.0 Turbo已面向企业全面开放,定价为输入0.03元/千 Tokens,输出0.06元/千Tokens。

这一举措,透露出百度近期布局大模型应用的另一方向:降价与免费策略。

百度副总裁谢广军表示:按照3:1输入输出长短统计下,文心大模型4.0 Turbo相较于文心大模型4.0通用版的降价幅度达70%。

此前,文心旗舰款模型ERNIE 4.0和ERNIE 3.5已宣布大幅降价,ERNIE-Speed、ERNIE-Lite、ERNIE-Tiny系列模型预置服务也持续对客户免费开放使用。

伴随大模型市场的成熟,价格必有一战。对于没有太多预算的中小企业客户来说,这是一件降本增效的好事;对于大模型厂商来说,这也是一次去伪存真、检验实力的“龙门坎”。

在迭版本、降价格、做普惠的基础上,文心大模型如此庞大的调用量,无疑是“用脚投票”的结果:在自然商业规律下,用户会主动选择更好用、更便宜的产品,而聚集的规模效应,又将反哺大模型,形成“越多人用越好用”的正循环。

02 大模型,为云业务“造血”

文心大模型“珠玉在前”,越来越创业公司与生态伙伴都摩拳擦掌,希望参与到这股开发浪潮中来。

由此带来的一个结果是,MaaS(模型即服务)炙手可热,一座座“模型工厂”建立起来。作为提供数据、模型与服务的云平台,找到了营收新路径。

而早早布局云服务的百度,Q2季度财报印证了这条营收路径的高价值:

百度智能云营收达51亿元,同比增长14%,并持续实现盈利(Non-GAAP)。同时,AI贡献的收入占比进一步提升至9%,高于上一季度的6.9%。另据IDC报告,2023年中国大模型平台中,百度智能云市场份额位列第一,达19.9%。

这一数字增长,与百度云一直以来深耕MaaS服务平台有关。

为促进大模型落地,百度推出了MaaS服务平台——千帆大模型平台,这是全球首个一站式企业级大模型平台,支持包括旗舰大模型ERNIE 4.0 Turbo在内的6款文心大模型精调使用。目前,千帆平台已累计精调出2.1万个模型,服务超过千家企业核心业务场景。

在平台之上,为客户提供ModelBuilder与AppBuilder两大开发工具。前者致力于模型定制,后者致力于AI原生应用开发。

Q2季度,两大工具使用量一路走高。千帆的底气,第一在于手握包括文心大模型在内的70余个国内外主流基础大模型与行业大模型资源;第二在于具备极其好用的工具链,不论是大模型训练、精调、部署,还是进行AI生应用开发,都可以很经济、简单地帮助用户完成操作。

千帆大模型平台ModelBuilder功能图,来源:ModelBuilder官网

第三,则在于与千行百业的适配性。今年5月,百度智能云推出了“千帆·行业增强版”,将通用大模型的理解、生成、逻辑、记忆能力,与行业模型的专业能力相结合,搭配体系化的工具和组件,支持从资源管理、大模型服务到应用开发的全过程。

季度内,千帆平台为政务、电力、教育等行业带来切实价值,多地农村用上大模型办事。2024年1-5月,国内大模型项目中标公告已发布近260个,百度在主流大模型厂商中拿下最多中标项目数量(10个)、覆盖最多行业(8个)、中标金额总数最高(6400万+),三项第一,可谓一骑绝尘。

03 智能体正在爆发

但以上,还并非百度AI布局的最终形态。

面向未来,百度押宝的重心,在于智能体。

2024世界人工智能大会期间,百度创始人、董事长兼首席执行官李彦宏提出,智能体代表着AI时代的未来趋势。“智能体正在爆发,只是现在基数还比较小,大家的体感没有那么强烈。”

而百度不论在策略还是在成绩上,都已抢占先机。Q2财报电话会披露,智能体在百度生态的分发量大幅增加,7月日均分发次数超800万次,为5月的两倍,百度智能体已渐成生态。

什么是智能体?早在1940年代,马文·明斯基曾在《心智社会》中,提出过智能体的概念:微小部件的智能体,会以非常特殊的形式,形成真正的智能。

在AI领域,智能体指的是拥有感知、行动、自主决策与目标导向能力的程序、系统或应用。

在李彦宏看来,智能体是一个几乎基于大模型“放之四海而皆准”的应用。由于门槛足够低,用户可能连编程都不用,就可以做出一个效果不错的智能体。

智能体的爆发意味着,未来在金融、医疗、教育、农业、制造、交通等行业,都会依据自己的场景和特有经验、规则、数据等,创建各种智能体,形成数百万量级的庞大生态。

此外,还有一个结果——作为智能体分发的最大入口的搜索,将变得越来越重要。

一方面,在智能体落地和分发上,搜索是天然的最佳场景。搜索连接着数量庞大的用户,是绝佳的分发池。百度搜索上线“AI助手”频道,便是希望通过识别用户搜索意图,为其提供与之匹配的智能体。Q2季度,已有18%的搜索结果由AI生成,为用户提供更准确和直接的答案。

而对于企业和开发者来说,百度还可依托搜索生态,为其创建的智能体提供分发和变现的支持,帮助客户增加销售转化,提升投放效率。

另一方面,智能体重构AI搜索,可以充分释放百度能量。自大模型爆发以来,各家搜索引擎都在探索通过大模型提升搜索能力,谷歌、微软、Meta等全球科技公司都在大力入局AI搜索。

在中国,搜索领域难有出百度之右者。百度以搜索起家,目前每天请求量达几十亿次,拥有庞大用户、超级流量和智能推荐等优势,正是探索“智能体+搜索”不二人选。

着眼当下,百度已成为攻破大模型“应用之难”的桥头堡,大模型调用量疾驰向前,MaaS平台落地加快。

放眼未来,智能体的爆发势不可挡,智能体+搜索的重担,必然会落在百度的肩头。

AI时代呼唤真正的能力者。至少从Q2财报来看,沐浴在通用人工智能的曙光之下的百度,没有辜负大家的期待。

0 阅读:29

科技电子阿尔法

简介:感谢大家的关注