Ling-3.0-tiny 正式开源。蚂蚁百灵发布 Ling-3.0-tiny,这是一款原生混合推理模型,总参数量为 7.9B,推理时仅激活 1.3B 参数。同步提供 BF16、FP8 和 INT4 三个版本,以适应不同的部署和推理需求。
Ling-3.0-tiny 正式开源:1.3B 激活参数如何进入真实任务
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、推理时仅激活 1.3B 参数的原生混合推理模型,并提供 BF16、FP8、INT4 三个版本。
该模型以低激活参数实现高效推理,适合资源受限的企业环境,FDE 可将其用于客户现场的本地化部署与实时任务处理,同时需关注混合推理模型的集成与调优能力。