百度：文心5.5 Flash Base正式開源

PANews 11月5日消息，百度正式開源最新基座模型文心5.5 Flash Base。ERNIE 5.5 Flash Base採用MoE架構，總參數量2800億，每個Token激活140億參數，使用33.5萬億個Token完成預訓練，預訓練上下文長度最高達128K，微調與推理階段支持最長100萬Token上下文。