据相关报道,Sand.ai开源了一款视频生成模型,采用MoE架构,总参数114B,激活参数6B。
据相关报道,全球首个专为具身智能设计的MoE视频模型已开源。
英伟达开源新型MoE项目,据称通过一行import即可实现微调加速3.7倍。