根据IT之家报道，百度文心大模型发布并开放 ERNIE-5.5-Flash-Base 权重。这款稀疏 MoE 语言模型总参数量为 2800 亿，每个 token 激活 140 亿参数，使用 33.5 万亿 tokens 从零预训练。

该模型预训练上下文长度为 128K，微调与推理支持最长 100 万 tokens。此次开放的权重未经中训练和后训练，可用于领域适配、指令微调及强化学习研究；经过后训练的 ERNIE 5.5 Flash 版本将随后推出。

来源：IT之家 原文