Elton José logo
Elton José
Infraestrutura de IA

A Corrida Dos Chips Proprietários: O Que O Jalapeño Da OpenAI Diz Sobre O Custo Da IA Que Você Consome Via API

A Corrida Dos Chips Proprietários: O Que O Jalapeño Da OpenAI Diz Sobre O Custo Da IA Que Você Consome Via API
0 visualizações
16 minutos de leitura
#Infraestrutura de IA

A Corrida Dos Chips Proprietários: O Que O Jalapeño Da OpenAI Diz Sobre O Custo Da IA Que Você Consome Via API

Faz um tempo que eu separo, meio automaticamente, as notícias de IA em duas gavetas: a dos modelos e a da infraestrutura que sustenta os modelos. A primeira lota rápido — lançamento atrás de lançamento, benchmark atrás de benchmark. A segunda costumava ser mais rala, mas nas últimas semanas ficou cheia de um jeito que me chamou atenção, e boa parte disso teve nome de pimenta.

Em 24 de junho a OpenAI e a Broadcom anunciaram o Jalapeño, e em 25 de agosto voltaram com os primeiros números de desempenho, apresentados também na conferência Hot Chips em Stanford. Não vi o chip rodando nem conversei com ninguém das duas empresas — o que sei vem dos comunicados oficiais, da cobertura técnica e de uma análise de terceiro, e isso é leitura, não relato de bastidor. Mas o assunto me prendeu porque não é notícia de hardware distante do meu dia a dia: é o tipo de decisão de infraestrutura que, em algum trimestre, aparece na fatura de quem paga por token via API.

A pergunta que fica não é "o chip é bom". É outra, mais chata e mais relevante para quem constrói produto em cima de LLM: o que significa, para o preço que eu pago por inferência, quando o laboratório que me vende o modelo também passa a desenhar o silício que roda esse modelo? A resposta curta é que segue um caminho que o Google já percorre desde as primeiras TPUs, e que carrega tanto potencial de preço mais baixo quanto um custo colateral que os comunicados de imprensa nunca mencionam.

Este post organiza o que dá para afirmar com razoável segurança sobre o Jalapeño, marca com clareza onde as fontes divergem — porque divergem, e vale expor em vez de esconder —, e termina puxando o fio até o que isso deveria significar para quem trata custo de token como linha de orçamento, não como curiosidade técnica.


O Que É O Jalapeño E Por Que A OpenAI Chama Isso De "Intelligence Processor"

O nome oficial que a OpenAI deu ao chip é "Intelligence Processor" — não GPU, não TPU, um rótulo próprio para deixar claro que não é um acelerador de propósito geral adaptado para IA, e sim um ASIC desenhado do zero para um único trabalho: inferência de modelo de linguagem grande. Segundo o comunicado conjunto com a Broadcom, o desenho parte do que a OpenAI chama de "blank-slate design" — não uma adaptação de arquitetura anterior, mas um projeto novo construído em cima do conhecimento acumulado rodando ChatGPT, Codex e a própria API em escala.

A cadeia de parceiros ajuda a entender o que está sendo verticalizado e o que não está. A OpenAI desenha a arquitetura do chip, os kernels e o sistema de serving; a Broadcom entra com a implementação em silício e com tecnologia de rede, incluindo os chips Tomahawk; a Celestica cuida da integração de placa, rack e sistema. A OpenAI não virou fabricante de semicondutores da noite para o dia — está fazendo o que o Google já faz há mais de uma década com a TPU: possuir o design lógico do chip e terceirizar a fabricação física para quem já tem essa capacidade instalada, no caso a TSMC, no processo N3P, segundo a cobertura técnica da SemiAnalysis citada por outras publicações.

O posicionamento também é específico. Jalapeño não compete com GPU de treinamento — é desenhado só para inferência, e dentro dela, para dois momentos com gargalos diferentes: o prefill, quando o sistema processa o prompt e o limite é poder de computação, e o decode, quando gera token de resposta um a um e o limite passa a ser banda de memória. A OpenAI descreve o problema de forma direta: um sistema otimizado para uma fase tende a perder essa vantagem esperando dado ou movendo estado de modelo entre recursos diferentes na outra fase. O Jalapeño minimiza esse deslocamento mantendo o KV cache — o histórico da conversa sendo processada — o mais próximo possível do processamento.

Do ponto de vista de sistema — nenhum modelo de fronteira roda hoje num chip isolado —, o rack completo, segundo a cobertura da apresentação em Stanford, reúne 128 aceleradores Jalapeño, entregando 1,7 exaFLOPS em 4 bits, 27,5 terabytes de HBM4 e quase 2 petabytes por segundo de banda de memória agregada. Os racks mais recentes de Nvidia e AMD entregam mais computação bruta — entre 1,46x e 2x mais —, mas ficam em torno de 85% da banda de memória do rack da OpenAI. É coerente com o problema que o chip ataca: em inferência, banda de memória costuma pesar mais que computação bruta, porque é ela que decide a velocidade de geração de cada token.


Nove Meses Ou Dezesseis? O Que As Fontes Não Concordam

Vale parar aqui e ser honesto sobre um ponto em que os próprios comunicados discordam. O comunicado da OpenAI com a Broadcom, de 24 de junho, afirma que o Jalapeño "foi co-desenvolvido do design inicial até o tape-out de fabricação em apenas nove meses" — tape-out sendo o momento em que o desenho é considerado pronto e enviado à fábrica para as primeiras amostras físicas. A OpenAI chama isso de "o ciclo de desenvolvimento de ASIC mais rápido já alcançado em semicondutores avançados de alto desempenho"; o comunicado da Broadcom usa formulação mais cautelosa, dizendo que o programa "representa o que pode ser" esse recorde — diferença pequena, mas real, entre "acreditamos ser" e "pode ser".

A SemiAnalysis, em análise técnica citada por outras publicações, reporta um número diferente: dezesseis meses do início do programa até o tape-out, não nove. É diferença grande demais para arredondamento, e não encontrei nas fontes disponíveis uma explicação explícita para ela. A hipótese mais razoável — e deixo claro que é hipótese minha, não algo que qualquer fonte afirma — é que os dois números meçam janelas diferentes do mesmo processo: nove meses talvez cubra só a fase final de design detalhado até o tape-out, enquanto dezesseis inclua a etapa anterior de definição de arquitetura. Mas isso é tentativa de reconciliar números que discordam, não fato confirmado. O honesto é registrar a divergência, não fingir que ela não existe.

Insisto nesse ponto num post sobre custo de infraestrutura porque "tempo de desenvolvimento recorde" é, ele mesmo, peça de marketing — e peça bem-sucedida vira manchete repetida sem checagem. Nove meses do zero ao tape-out seria extraordinário para um chip dessa complexidade; dezesseis meses já é rápido para o padrão da indústria, mas deixa de ser recorde tão estridente. As duas coisas podem ser tecnicamente verdadeiras ao mesmo tempo, dependendo de onde se marca o início do relógio — e é por isso que vale desconfiar de qualquer "recorde" sem perguntar antes o que está sendo medido.


Os Números De Desempenho Que De Fato Importam

Se o prazo de desenvolvimento é o número mais disputado, o de performance é o mais sólido — ainda que com ressalvas. No post de resultados de 25 de agosto, a OpenAI publicou benchmarks rodados no InferenceX, benchmark público da SemiAnalysis que mede o processo completo de servir uma requisição de IA. O Jalapeño entregou entre 1,5x e 1,9x mais "trabalho de IA" por watt no pico de throughput, e entre 1,7x e 3,6x menos latência ponta a ponta, comparado aos sistemas concorrentes, em três modelos: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. Para cargas altamente interativas — resposta quase instantânea, como agente conversacional em produção —, a vantagem reportada sobe para 2,1x a 4,1x.

Um detalhe que a própria OpenAI destaca: o Jalapeño tem potência nominal de 700 watts, mas a potência sustentada medida nos testes ficou em 550 watts ou abaixo nas cargas avaliadas — o ganho por watt aparece mesmo sem o chip operar no limite da faixa declarada. Isso interessa a quem acompanha as discussões deste blog sobre sustentabilidade e consumo energético de IA: eficiência de inferência não é só pauta ambiental, é custo operacional direto em escala de data center.

Vale registrar quem validou o número e quem não validou. Os testes de 1,5x a 1,9x foram conduzidos e divulgados pela própria OpenAI, ainda que usando benchmark de terceiro — mais transparente do que inventar métrica própria, mas ainda benchmark do fornecedor sobre o próprio produto, não auditoria independente. Separadamente, a SemiAnalysis publicou análise própria, reportando que, nos testes que rodou, o Jalapeño superou aceleradores de Nvidia, AMD e Google em várias cargas de inferência, inclusive contra a geração Rubin da Nvidia em desempenho por watt. Esse dado é relato de terceiro, reproduzido como tal — não é benchmark que eu tenha auditado nem que qualquer fonte independente tenha replicado às cegas. A cobertura do The Register, sobre a mesma apresentação em Stanford, marca ressalva parecida: os sistemas de comparação foram o GB200 NVL72 e o GB300 NVL72 da Nvidia, lançados em 2024 e 2025, e a comparação excluiu decodificação especulativa — técnica de aceleração disponível nos concorrentes. Isso não invalida o resultado, mas limita generalizar "o Jalapeño vence a Nvidia" sem qualificar contra qual geração e sob quais condições.


O Caminho Que O Google Já Percorreu Com A TPU

Nada disso é, estruturalmente, novidade — e é por não ser novidade que o movimento importa. O Google começou a desenhar suas Tensor Processing Units em meados da década passada, primeiro para treinamento e inferência interna, depois abrindo acesso via Google Cloud. A lógica é a mesma que a OpenAI descreve: quando você opera volume gigantesco e previsível de um tipo específico de carga, comprar hardware de propósito geral deixa de ser a opção mais eficiente, porque você paga por flexibilidade — a capacidade da GPU de servir treinamento, jogos, simulação, qualquer coisa — que não precisa.

A OpenAI chama isso de "estratégia de infraestrutura full-stack de longo prazo" e descreve um ciclo virtuoso: infraestrutura melhor gera eficiência, eficiência permite treinar e servir melhor, modelos melhores viram produtos melhores, produtos melhores geram receita, e a receita financia a próxima geração de infraestrutura. É argumento coerente, mas também é o que qualquer empresa verticalizando um elo da cadeia sempre apresenta — o texto não menciona o custo de capital de manter um programa de silício em paralelo ao desenvolvimento de modelo, nem o risco de gargalo numa fundição que atende dezenas de outros clientes.

O padrão maior é o que já toquei ao escrever sobre a corrida bilionária entre Google e Anthropic por capacidade de computação: a disputa entre laboratórios deixou de ser só sobre quem treina o melhor modelo e passou a incluir quem controla mais camadas da pilha que sustenta esse modelo em produção. Chip próprio é a camada mais profunda dessa pilha, e a mais cara e lenta de construir — o que explica por que só um punhado de empresas no mundo, Google, Amazon com o Trainium, Meta com o MTIA e agora a OpenAI, está disposto a tentar.


O Que Isso Muda Para Quem Paga API

Aqui entra a pergunta de quem não trabalha na OpenAI nem na Broadcom, mas paga a fatura no fim do mês. A relação entre custo de hardware de inferência e preço de API não é direta nem imediata, mas também não é irrelevante — é a conexão que já tratei ao escrever sobre os fundamentos de economia de token que sustentam decisão de FinOps em IA: o custo por token que uma empresa paga reflete, com defasagem, o custo que o provedor tem para gerar aquele token, e esse custo depende em boa parte de quanto hardware, energia e tempo de máquina a geração consome.

Se os números da OpenAI se confirmarem em produção — e vale grifar o "se", porque benchmark de laboratório em amostra de engenharia raramente se traduz de forma perfeita para operação em escala com tráfego real —, um ganho de 1,5x a 1,9x em trabalho por watt representa redução relevante no custo de servir cada requisição. Isso não significa preço de API mais barato no curto prazo: laboratórios historicamente absorvem ganho de eficiência para melhorar margem antes de repassar, ou usam a folga para lançar produto com mais contexto e resposta mais rápida em vez de baixar preço por token. Já escrevi sobre esse padrão ao acompanhar por que o preço de LLM caiu tanto ao longo de 2026 — a queda de preço segue a curva de eficiência com atraso de trimestres, não de semanas, e normalmente é a concorrência entre provedores, mais do que o ganho isolado, que força o repasse.

O outro lado da equação é a competição entre fornecedores de chip. Hoje a Nvidia domina o mercado de aceleradores de IA com margem que reportagem de mercado já tratou como incomum para a indústria de semicondutores — posição dominante que só atrai concorrência agressiva de preço quando alternativas viáveis aparecem. Se OpenAI, Google, Amazon e Meta conseguem rodar parte relevante da própria inferência em silício próprio, a pressão sobre o preço de GPU da Nvidia tende a aumentar — o que historicamente beneficia quem ainda depende de GPU comprada ou alugada no mercado aberto. É efeito indireto e demorado, mas real: menos dependência agregada de um único fornecedor tende a significar mais barganha de preço para quem não tem escala para construir o próprio silício.

Vale conectar isso à disciplina prática de quem opera IA em produção. A conta de token de uma equipe de engenharia hoje não é só função do preço por token cobrado pelo provedor — é também função de quanto contexto a aplicação consome por chamada, tema que tratei ao olhar como a gestão de token em produção afeta diretamente o custo final de operar IA. Um chip mais eficiente reduz o custo de fundo do provedor; uma aplicação mal desenhada, que desperdiça token em contexto redundante, consome parte dessa economia antes que ela chegue ao cliente final. As duas camadas de otimização são independentes, e nenhuma substitui a outra.


O Trade-off Que Nenhum Comunicado De Imprensa Vai Admitir

Toda essa verticalização tem um preço que os press releases não mencionam, porque não é do interesse de quem os escreve mencionar: quanto mais um laboratório desenha o próprio silício em torno das particularidades do próprio modelo, mais se prende à própria arquitetura de hardware — e mais caro fica migrar de fornecedor depois. O Jalapeño foi desenhado, segundo a OpenAI, para ser "um alvo de programação claro e previsível tanto para humanos quanto para IA" — vantagem de engenharia real, mas que também significa que o software de serving e boa parte do pipeline de inferência da OpenAI passam a ser otimizados especificamente para essa arquitetura. Trocar de fornecedor nesse cenário deixa de ser troca de peça de infraestrutura e vira reengenharia de pilha inteira.

Não é exclusividade da OpenAI — é o mesmo trade-off que qualquer empresa que já rodou carga pesada em TPU do Google conhece: a eficiência ganha em performance por dólar tem como contrapartida ficar mais distante da portabilidade de uma GPU genérica. A diferença está em quem carrega o risco. Quando o Google otimiza para TPU, o risco de lock-in fica dentro do próprio Google e dos clientes de Cloud que escolhem conscientemente essa trilha. Quando a OpenAI verticaliza silício para os próprios modelos, o risco de dependência de arquitetura permanece dentro dela — mas o efeito de rede, se o custo cair o suficiente para virar vantagem competitiva sustentada, empurra desenvolvedor e empresa cliente para dentro do ecossistema da OpenAI de um jeito mais difícil de reverter depois.

A cobertura técnica do evento em Stanford também nota, e acho relevante repetir, que a OpenAI segue dependente de Nvidia e AMD para treinamento e para boa parte da inferência no curto e médio prazo — não há troca completa de fornecedor no horizonte visível. O volume de produção do Jalapeño começa pequeno até o fim de 2026, com ramp mais forte projetado para 2027, segundo os próprios comunicados. O efeito prático desse chip sobre custo de API, se houver, não vai aparecer amanhã: é investimento de horizonte de anos, não de trimestre, e tratá-lo como impacto imediato no preço que qualquer desenvolvedor paga hoje seria dar ao anúncio um peso que os números de produção ainda não sustentam.


Conclusão

Volto à pergunta que abriu este post: o que muda, para quem paga IA via API, quando o laboratório que vende o modelo também desenha o chip que roda esse modelo? A resposta honesta, depois de ler os comunicados e a cobertura disponível, é que muda pouco no curto prazo e potencialmente bastante no médio prazo — e a distância entre essas duas coisas é onde mora o exagero que qualquer anúncio de hardware carrega. Nove meses ou dezesseis, o prazo de desenvolvimento é detalhe de relações públicas perto do que realmente importa: se o ganho de eficiência por watt se sustenta em produção real, com tráfego real, e se algum desse ganho chega ao preço que times de engenharia pagam por token.

Não tenho como afirmar que vai chegar. O histórico recente de queda de preço de LLM sugere que a concorrência entre provedores, mais do que o ganho de eficiência de um fornecedor isolado, é o que normalmente força o repasse — e ela só aumenta de verdade quando mais de um laboratório roda o próprio silício com eficiência parecida, não quando um só sai na frente. O que dá para dizer com mais segurança é que o Jalapeño confirma uma tendência em curso desde a TPU do Google: os laboratórios de fronteira deixam de tratar hardware como matéria-prima comprada de terceiro e passam a tratá-lo como parte do produto que vendem — o que reorganiza tanto o poder de barganha entre fornecedor de chip e cliente de modelo quanto o grau de dependência que cada laboratório cria em torno da própria arquitetura.

Fico com uma reserva que não resolvi lendo os materiais disponíveis: todo esse movimento de verticalização promete mais eficiência e, por extensão, mais acesso — é literalmente o argumento que a OpenAI usa, "democratizar" o acesso à IA avançada reduzindo o custo de servir. Mas eficiência que vira vantagem competitiva também pode virar barreira de entrada para quem não tem escala para desenhar o próprio chip. Os dois efeitos são reais, coexistem, e nenhum comunicado de imprensa vai ajudar a pesar qual deles pesa mais daqui a três anos. Essa é uma pergunta que só a próxima geração de anúncios — o Jalapeño Gen 2 já está, segundo a própria OpenAI, em desenvolvimento avançado — vai começar a responder.

Fontes:

Newsletter

Receba os artigos mais relevantes da semana, sem quebrar seu ritmo de leitura

Um resumo semanal com os melhores posts sobre IA, engenharia de software e tecnologia, enviado no melhor momento para continuar a conversa depois da leitura.

Foto de Elton José

Escrito por

eltonjose

Engenheiro de software e estrategista de produtos digitais, focado em IA pragmática e em transformar experiências de trabalho remoto em aprendizados aplicáveis. Compartilho frameworks e decisões reais que uso em consultorias e projetos.

  • Principais temasInfraestrutura de IA, Chips de IA
  • Formato do conteúdoGuia prático + insights de carreira