OpenAI aposta em chips sob medida para cortar custos
OpenAI aposta em chips sob medida para cortar custos ao alinhar o design de seus modelos de inteligência artificial ao hardware que os executa, mirando ganhos expressivos de eficiência e economia.
OpenAI aposta em chips sob medida para cortar custos
A OpenAI vem substituindo parte dos componentes genéricos por chips customizados, desenvolvidos especificamente para as rotinas de treinamento e inferência de suas redes neurais. Essa mudança replica a estratégia que revolucionou o mercado de smartphones: aproximar software e silício para elevar desempenho e reduzir consumo energético.
Nos sistemas de IA, o treinamento exige a potência flexível das GPUs, enquanto a inferência demanda altíssima largura de banda de memória e acesso seletivo aos dados. Para atender a esses requisitos, a empresa investe em HBM (High-Bandwidth Memory) e em arquiteturas que exploram redes neurais esparsas — ativando apenas os nós necessários a cada consulta. O resultado, segundo a companhia, é uma redução de custo por resposta que pode chegar a uma ordem de magnitude.
A estratégia ganhou impulso com a recente parceria firmada com a Broadcom, responsável por projetar parte dos novos circuitos integrados. Além de acelerar o tempo de resposta do ChatGPT e de produtos como o Pulse, o acordo busca conter o impacto ambiental; projeções do CEO Sam Altman indicam que atender bilhões de usuários poderia demandar um chip por pessoa, com gasto energético comparável ao de grandes cidades.
Especialistas ouvidos por veículos como o Bloomberg lembram que a adoção de silício dedicado é caminho natural para gigantes da tecnologia, mas destacam que o desafio logístico de fabricar e distribuir esses componentes em escala global ainda é significativo.
Imagem: JarTee
Combinando GPUs de ponta no treinamento e chips dedicados na inferência, a OpenAI pretende criar um ecossistema capaz de escalar a IA generativa sem ultrapassar limites de custo e de energia, mantendo vantagem competitiva diante de rivais que utilizam apenas hardware disponível no mercado.
Para entender como outras inovações tecnológicas impactam o dia a dia no país, leia também a editoria Brasil e acompanhe nossas atualizações.
Crédito da imagem: JarTee / Shutterstock.com
