от arcee-ai
Trinity Mini — это разреженная модель языка с 26 миллиардами параметров (3 миллиарда активных) типа Mixture-of-Experts, содержащая 128 экспертов с 8 активными на токен. Разработана для эффективных рассуждений в длинных контекстах (131k) с надежной функцией...
