Por Melhores Tech · deslize para ver →
Comprados por US$ 20 bilhões, os chips da Groq viram racks LPX de 256 unidades e entram em produção na nuvem Nebius ao lado das GPUs Rubin da Nvidia.
A Nvidia adquiriu ativos da Groq por US$ 20 bilhões em dezembro. A Groq desenvolve chips aceleradores focados em inferência, a etapa em que o modelo de IA responde ao usuário, e não em treinamento.
Não. Segundo Dion Harris, diretor sênior da Nvidia, a ideia é usar o processador certo para cada parte da carga de trabalho: as GPUs seguem no treinamento e nas tarefas pesadas, enquanto o Groq 3 LPX ataca a latência na hora de…
É o sistema que reúne 256 chips Groq 3 em um único rack, com desempenho anunciado de 3,4 mil tokens por segundo. Os primeiros vão para a nuvem da Nebius, ao lado dos processadores Vera e das GPUs Rubin.
melhorestech.com