这篇讲了什么
原帖称,中国电信于9月17日发布并开源Xing4.0-29B-A4B,面向复杂工程任务,总参数量29B、激活参数4B,原生支持256K上下文,可扩展至512K。官方强调训练芯片、框架和推理部署采用全栈国产路线。
据介绍,模型经4-bit量化后显存占用降至15GB,可在24G消费级显卡上运行长上下文任务;同时适配多种微调、推理和Agent框架,方便接入现有开发环境。
关键事实
- 参数规模
- 原帖称总参数量29B,激活参数4B
- 量化显存
- 据介绍,4-bit量化后显存占用为15GB
信息边界
原帖未给出消费级显卡运行长上下文时的速度和具体测试配置。
想继续看具体内容?
完整内容、附件与讨论,请前往原帖查看。
本站提供公开短导读,原帖访问条件在阅读窗口中说明。