百度:文心5.5 Flash Base正式开源

PANews 11月5日消息,百度正式开源最新基座模型文心5.5 Flash Base。ERNIE 5.5 Flash Base采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token完成预训练,预训练上下文长度最高达128K,微调与推理阶段支持最长100万Token上下文。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
或与黑客有关的钱包买入超1700枚ETH,随后存入Tornado Cash
PANews 快讯