【[53星]ChineseModernBert:专为中文自然语言处理任务打造的现

爱生活爱珂珂 2025-05-28 14:30:17

【[53星]ChineseModernBert:专为中文自然语言处理任务打造的现代化BERT模型。亮点:1. 基于高质量CCI3-HQ数据集训练,覆盖多领域中文文本;2. 上下文长度达4096,支持更长文本处理;3. 采用Packing策略,MLM比率达30%】

'ChineseModernBert'

GitHub: github.com/enze5088/ChineseModernBert

中文BERT 自然语言处理 预训练模型 AI创造营

0 阅读:0
爱生活爱珂珂

爱生活爱珂珂

感谢大家的关注