바이두, '어니(文心) 5.5 Flash Base' 정식 오픈소스 공개

PANews 11월 5일 소식, 바이두가 최신 기반 모델인 어니(文心) 5.5 Flash Base를 정식 오픈소스로 공개했다. ERNIE 5.5 Flash Base는 MoE 아키텍처를 채택했으며, 총 파라미터 수는 2800억 개이고 토큰당 140억 개의 파라미터가 활성화된다. 33.5조 개 토큰으로 사전 학습을 완료했고, 사전 학습 컨텍스트 길이는 최대 128K이며, 파인튜닝 및 추론 단계에서는 최대 100만 토큰 컨텍스트를 지원한다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
PANews APP
Lido, 스왑 기능 출시…이더리움·아비트럼·베이스 네트워크 지원
PANews 속보