【[43星]fastsafetensors：高性能的safetensors模型加

爱生活爱珂珂 2025-07-05 19:53:56

【[43星]fastsafetensors：高性能的safetensors模型加载器，让模型加载速度飞起来！亮点：1. 批量、懒加载张量，按需加载节省资源；2. GPU卸载分片、类型转换等操作，减少CPU负担；3. 支持GPU Direct Storage，从存储到GPU内存直接传输，大幅减少拷贝开销】

'fastsafetensors is an efficient safetensors model loader. This library is tested with python 3.9-13 and pytorch 2.1-2.7.'

GitHub: github.com/foundation-model-stack/fastsafetensors

高性能模型加载 PyTorch Python 人工智能 ai兴趣创作计划

0 阅读：0

猜你喜欢

爱生活爱珂珂

爱生活爱珂珂

感谢大家的关注

作者最新文章

1
【[45星]Awesome-Affordance-Learning：为机器人与环
2
【[289星]Claude Code Action：为GitHub项目提供智能代
3
【[747星]Ultracite：AI就绪的代码格式化工具，让你和团队以及AI
4
【[89星]TabArena：一个为表格数据机器学习量身定制的动态基准测试系统。
5
【[73星] nsa-impl：高效实现原生稀疏注意力机制的PyTorch项目。
6
【[304星]Kwai Keye-VL：快手推出的多模态大语言模型，专为视频理解
7
【[80星]WorldVLA：一个自回归动作世界模型，将动作和图像理解与生成统一
8
“数学教会我们的不是答案，而是如何‘证明’一个答案是正确的，以及‘享受’这个过程
9
LLM的"认知核心"：计算设备的下一个常驻系统 ​​​
10
早！[太阳] 早安 ​​​

热门分类

推荐 热榜 军事 NBA 体育 社会 明星八卦 娱乐 财经 科技 汽车 历史 国际 游戏 动漫 公益 搞笑 商业 互联网 数码 国际足球 房产 家居 时尚 科学探索 职场 育儿 股票 教育 影视 情感 热点 中国军情 武器 中国南海 中国足球 亚洲杯 科比 综合体育 CBA 投资 楼市 大咖秀 外汇 创业 风口 SUV 豪车 概念车 优惠 新能源 美国 欧洲 朝日韩 俄罗斯 孕期 街拍 恋爱攻略 婚姻 正能量

科技TOP

1
小米YU7价格25.35万，27.99万，32.99万三个版本，最推荐入门版本，
2
小米又搞大动作啦！6月24日雷军透露小米YU7支持车外小爱语音。车外配备8个麦克
3
小米首款智能眼镜AIGlasses发布，支持拍照录像和超级小爱同学。1999起
4
雷军估计不会再直播了！他怎么也想不到，网友居然在他直播间里干起来了！甚至把雷
5
4K手机推荐指南，零差评体验！
6
陈震再次质疑小米YU7到底极限在哪里？到现在为止，他已经连续发了四篇专门的文
7
一万买的华为pura80pro+还没捂热夫妻吵架给砸了一个老主顾半夜联系我
8
关于华为Pura80全系芯片的真机实测已经出来了，确认为Mate70同款的麒麟9
9
左边是我花了5499国补价买到的iPhone16Pro，右边是苹果直营店里
10
小米YU7价格我现在猜车价有点手拿把掐了喂！Yu7价格价格已公布标准版2535

科技最新文章

1
魅族22系列手机或于本月登场，将提供全新开模小尺寸旗舰版本近日，根据多方爆料
2
整个手机屏幕成本最高？根据数码博主爆料红米Note15系列将带来多重升级亮点，新
3
3000左右性价比的神，选K系列绝对错不了[吃瓜]​​​
4
2025年可能上市的三款7.2寸超大屏手机，喜欢大屏的用户可以再耐心等一等。
5
这两个人有点意思：一个不喊遥遥领先了，宣称要低头了；一个停更早餐了，估计又被
6
据传iPhone17ProMax的电池容量是5000mAh对比历代旗舰：-
7
荣耀又捅了马蜂窝，再次把国产厂商的遮羞布掀开了谁能想到全球最轻薄大折叠荣耀Ma
8
雷军估计不会再直播了！他怎么也想不到，网友居然在他直播间里干起来了！甚至把雷
9
荣耀90GT和荣耀GT哪个更好，还得看个人需求和预算。荣耀GT整体配置更出色，
10
新官上任三把火！荣耀MagicV5的火力如何？12+256GB售价8999