ERNIE-4.5-21B는 Baidu가 개발한 대규모 언어 모델로, Mixture of Experts 설계를 적용하여 30억 개의 파라미터만 활성화하면서도 210억 개의 전체 파라미터에 접근할 수 있는 효율적인 아키텍처를 특징으로 합니다.
Suggested: