Seis meses atrás, a startup de chips de IA Groq estava tão distante dos holofotes que um dos poucos momentos em que recebeu atenção da mídia foi quando seu CEO, Jonathan Ross, enviou uma carta sarcástica de cessação e desistência a Elon Musk, reclamando sobre o chatbot da X.ai que recebeu o nome Grok.
No entanto, tudo mudou na segunda-feira, com a notícia de que a Groq, uma startup do Vale do Silício que está conquistando espaço da Nvidia no mercado de chips de IA, arrecadou US$ 640 milhões em uma rodada de financiamento liderada pela Blackrock, que avalia a empresa em US$ 2,8 bilhões. Líderes do setor, como o CEO da Meta, Mark Zuckerberg, estão elogiando a Groq, enquanto o cientista-chefe da Meta (M1TA34), Yann LeCun, se juntou a ela como consultor técnico.
Mas foi um momento viral ocorrido em fevereiro de 2024 que preparou o terreno para a grande rodada de financiamento de hoje. Foi “100% uma virada de jogo”, disse o CEO da Groq, Jonathan Ross, à Fortune em uma entrevista recente.
Ao contrário das GPUs da Nvidia, que são utilizadas tanto para treinar os modelos de IA mais avançados quanto para gerar suas saídas (um processo conhecido como “inferência”), os chips de IA da Groq são projetados exclusivamente para otimizar a velocidade de inferência. Isso significa que eles fornecem uma saída de texto notavelmente rápida para grandes modelos de linguagem (LLMs), a um custo muito menor do que as GPUs da Nvidia.
No entanto, a Groq tem enfrentado dificuldades para demonstrar aos potenciais clientes o desempenho de seus chips. A resposta foi a Groq criar sua própria experiência semelhante ao ChatGPT.
Em fevereiro, a Groq lançou seu próprio chatbot conversacional em seu site, afirmando ter estabelecido recordes de velocidade na geração de LLMs com modelos de código aberto, incluindo o Llama, da Meta. Então, um desenvolvedor postou um breve vídeo no X demonstrando como a Groq, ao alimentar um LLM da startup parisiense Mistral, conseguia fornecer respostas a perguntas com centenas de palavras em menos de um segundo.
Segundo Ross, a sorte da empresa mudou instantaneamente. De repente, milhares de desenvolvedores começaram a se interessar em construir suas ferramentas de IA utilizando os poderosos chips de IA da Groq. Meros seis meses depois, já são 300 mil desenvolvedores acessando as soluções e o hardware da Groq por meio de seu serviço de IA em nuvem.
Chips de IA na nuvem
Atualmente, no entanto, a grande maioria desses desenvolvedores está utilizando os serviços da Groq gratuitamente, e resta saber como a empresa, que atualmente tem 200 colaboradores, pretende se tornar lucrativa. “No momento, oferecemos acesso pago para pouco mais de 30 clientes devido à capacidade limitada”, explicou Ross. Embora ele espere ter “receitas muito boas” este ano, ele observa que “um dos benefícios de ser uma empresa privada é que não precisamos divulgar nossas receitas”.
Pode parecer fácil questionar as perspectivas de longo prazo da Groq com tão poucos insights sobre receitas, mas Ross tem um longo histórico de superação de expectativas. Depois de abandonar o ensino médio porque “estava entediado”, ele aprendeu programação e, após uma passagem pelo Hunter College, conseguiu entrar na NYU. Lá, ele frequentou aulas de nível de doutorado por dois anos na graduação e, depois, abandonou novamente. “Eu não queria limitar minha oportunidade de ganhar dinheiro me formando em alguma coisa”, brincou. Isso levou a um emprego no Google, onde ajudou a criar o chip de IA da empresa, conhecido como TPU, antes de deixar a companhia para fundar a Groq, em 2016.
Ross afirma que a Groq não tem intenção de ser uma startup que viva de financiamento de capital de risco em vez de ter um negócio sustentável. “Você tem o Sam Altman dizendo que não se preocupa com quanto dinheiro está perdendo”, comentou. “Na verdade, pretendemos recuperar nosso investimento com esse dinheiro que arrecadamos, para que possamos receber de volta cada dólar do hardware que implantamos.” A Groq conseguiu arrecadar mais de meio bilhão de dólares, explicou ele, porque “temos mais demanda do que conseguimos atender”. O investimento permitirá à empresa construir mais hardware e cobrar dos clientes que desejam limites de taxas mais elevados.
A Groq não é a única startup de chips de IA que busca desafiar a Nvidia: a Cerebras, por exemplo, recentemente ingressou com um pedido confidencial de IPO, enquanto a SambaNova, a Etched e a Fractile também estão no jogo. E, claro, fabricantes de chips de GPU estabelecidos, como a AMD, estão intensificando seus esforços em IA. No entanto, o analista Daniel Newman afirmou recentemente à Fortune que “não há nenhum concorrente natural para a Nvidia atualmente”.
Dito isto, mesmo que a Groq consiga apenas morder uma pequena parte do bolo da Nvidia, isso trará muitos negócios. “Não sei se a Nvidia perceberá quanto da fatia estamos pegando, mas nós nos sentiremos bem satisfeitos com nossa porção”, disse Ross. “Será um enorme múltiplo em termos de nossa avaliação daqui para frente.”
Fortune: ©.2024 Fortune Media IP Limited/Distribuído por The New York Times Licensing Group
