这篇讲了什么

原帖称,中国电信于9月17日发布并开源Xing4.0-29B-A4B,面向复杂工程任务,总参数量29B、激活参数4B,原生支持256K上下文,可扩展至512K。官方强调训练芯片、框架和推理部署采用全栈国产路线。

据介绍,模型经4-bit量化后显存占用降至15GB,可在24G消费级显卡上运行长上下文任务;同时适配多种微调、推理和Agent框架,方便接入现有开发环境。

关键事实

参数规模
原帖称总参数量29B,激活参数4B
量化显存
据介绍,4-bit量化后显存占用为15GB

信息边界

原帖未给出消费级显卡运行长上下文时的速度和具体测试配置。

想继续看具体内容?

完整内容、附件与讨论,请前往原帖查看。

本站提供公开短导读,原帖访问条件在阅读窗口中说明。