Considere-se a aplicação de um modelo grande de linguagem (LLM) com 3 bilhões de parâmetros, distribuído em formato não quantizado, meia-precisão. A quantidade mínima de memória necessária para carregar os pesos do modelo para inferência (sem gradientes), considerando apenas o espaço ocupado pelos pesos, é: A) 8GB; B) 16GB; C) 32GB; D) 64GB; E) 128GB.

Considere-se a aplicação de um modelo grande de linguagem (LLM) com 3 bilhões de parâme...

Utilizamos cookies e tecnologias semelhantes para aprimorar sua experiência de navegação. Política de Privacidade.