【[68星]DistillKitPlus：为大型语言模型（LLM）提供简单易用、

爱生活爱珂珂 2025-05-03 13:57:33

【[68星]DistillKitPlus：为大型语言模型（LLM）提供简单易用、高性能的知识蒸馏工具。亮点：1. 支持离线蒸馏和PEFT，适合低计算资源环境；2. 提供4种损失函数，满足不同蒸馏需求；3. 集成LoRA微调和4位量化，优化模型性能】

'DistillKitPlus is an open-source toolkit for doing knowledge distillation (KLD). The main motivation was to support offline distillation and PEFT for low computation resource settings.'

GitHub: github.com/agokrani/distillKitPlus

知识蒸馏 LLMs 高性能 AI创造营

0 阅读：0

猜你喜欢

爱生活爱珂珂

爱生活爱珂珂

感谢大家的关注

作者最新文章

1
【[63星]Neuronpedia：开源的神经元可解释性平台，为AI模型的神经元
2
【[15星]VecSetX：基于VecSet框架的先进向量集合表示方法，为3D点
3
【[102星]ExlLlamaV3：为现代消费级GPU优化的本地运行LLMs的量
4
【[379星]Serena：一款强大的开源Agent，助力开发者免费实现高效代码
5
【[461星]mcphub.nvim：为Neovim用户打造的强大MCP服务器管
6
【[120星]CodeScientist：一个自动化科学发现系统，能够设计、迭代
7
【[122星]TorchSim：基于PyTorch的原子级模拟引擎，为机器学习势
8
【[349星]Zola：一个免费开源的多模型支持AI聊天应用，让聊天更智能、更灵
9
【[303星]Claude Squad：管理多个AI Agent，让生产力飙升1
10
【[256星]Versatile-OCR-Program：这是一款为机器学习训练

热门分类

推荐 热榜 军事 NBA 体育 社会 明星八卦 娱乐 财经 科技 汽车 历史 国际 游戏 动漫 公益 搞笑 商业 互联网 数码 国际足球 房产 家居 时尚 科学探索 职场 育儿 股票 教育 影视 情感 热点 中国军情 武器 中国南海 中国足球 亚洲杯 科比 综合体育 CBA 投资 楼市 大咖秀 外汇 创业 风口 SUV 豪车 概念车 优惠 新能源 美国 欧洲 朝日韩 俄罗斯 孕期 街拍 恋爱攻略 婚姻 正能量

科技TOP

1
说刘强东作秀的，你们让王兴也秀一个噻，或者你们自己做一天体验一下。一个千亿身价的
2
京东称有外卖骑手遭遇2选1外卖“二选一”，困住的不只是骑手近日，京东发布“致全体
3
格力电器董明珠董事长的“海归论”，遭到一些人的批评和质疑，个人觉得大可不必。
4
预算2000元适合买什么手机？这次机型供参考，性价比和当年小米1999不相上下。
5
荣耀Power今晚发布，真机感觉还不错，相对轻薄，看不出来居然有8000mAh电
6
最新的手机续航性能排行榜，你用的手机上榜了没有这次的荣耀Power可以说一鸣
7
为什么最近不少公司取消大小周，背后的原因是什么？小红书将取消大小周​​​
8
据说华为nova14系列快了，这配置如何？网传nova14系列将在五
9
国内三大旗舰手机已发布谁才是你心中最强的Ultra手机​​​
10
我宣布，再也不买荣耀手机自用的，22年买的magic4pro，当时是荣耀当年

科技最新文章

1
麒麟9010芯片翻车了？实测结果让花粉集体破防！惊人发现：号称7nm工艺的麒麟
2
苹果第二财季在华营收不及预期两个因素。国产手机强！另外一个因素就是因为iPhon
3
苹果第二财季在华营收不及预期中国区业绩方面，苹果第2财季大中华区营收160.02
4
万万没想到美团刚刚突然宣布了！4月30日，美团突然宣布：自5月1日0点起全面免除
5
为什么苹果手机各方面都是顶配，却唯独信号不好？内行人的一席话道出其中真相：说
6
听说小杨哥搞了个小杨甄选app，本想试试新软件看能不能薅点羊毛，结果一打开大跌
7
不少人说买荣耀Magic7的要哭死了，刚发布的荣耀GTPro芯片更强、续航更长
8
我宣布，再也不买荣耀手机自用的，22年买的magic4pro，当时是荣耀当年
9
刚刚！#一加13T#首销10分钟破两亿！这手机我也用了几天，最大的感受是真爽，单
10
#家长可一键启动APP未成年模式#【#移动互联网未成年人模式发布#】4月29日上