DC娱乐网

我现在基本确定的是AI公司给单一客户的能力大概就是一块rtxpro6000的资源

我现在基本确定的是AI公司给单一客户的能力大概就是一块rtxpro6000的资源,实际45t/s左右。因为我自己跑本地显卡,和用积分跑项目的速度非常接近。这样算以前6万一块的价格其实是能赚钱的,4000积分卖100块钱,1000积分也就用一个工作日,所以这一张卡复合销售的话,卖出20份没问题。这样一年单卡的营收可以做到2万+,商业模型是能够撑住的。但现在这块卡飙涨到了18万,对应H200等商业算力的价格也在暴涨,收益曲线就崩了。

有人会问一旦出现几个客户同时长时间高负载,20 路复用会直接崩盘,token 速度暴跌,客户投诉。 不是这样算的,是复合可售,因为用户有积分限制,时间必然是错开的,再保持算力池一定的冗余就行了。

这其实是一个算术题,已售用户,峰值用户,总 token 输出能力,运维并不复杂。可以通过峰谷调节来实现算力输出的拉平,均摊成本。

这就是为什么最近token涨价和峰谷调节的逻辑,因为硬件涨得太多了,亏不起了。

AI的生意和卖带宽是一样的,卖得就是超售和谷峰平衡。