A AMD anunciou a aquisição da startup de chips de IA Taalas, com o objetivo de acelerar a inferência de modelos de linguagem gravando-os diretamente em silício. A informação foi divulgada pelo theregister.com.

A tecnologia da Taalas promete um salto significativo de desempenho: demonstrações iniciais mostram circuitos integrados específicos para cada modelo gerando até 17.000 tokens por segundo. Isso representa uma alternativa radical à abordagem tradicional de GPUs de propósito geral.

Em vez de executar modelos em hardware genérico, a Taalas cria circuitos dedicados que incorporam a arquitetura do modelo diretamente no chip. Essa técnica, conhecida como ‘etching models into silicon’, elimina grande parte da sobrecarga de execução, resultando em latência menor e throughput muito maior.

A aquisição reforça a estratégia da AMD de competir com a NVIDIA no mercado de aceleradores de IA, que hoje é dominado pela gigante americana. Com a Taalas, a AMD ganha uma tecnologia proprietária que pode diferenciar seus produtos em um cenário cada vez mais disputado.

Embora os detalhes financeiros do negócio não tenham sido divulgados, a movimentação sinaliza a importância crescente da eficiência em inferência, especialmente para modelos de larga escala que exigem custos operacionais altos.

A promessa de 17.000 tokens por segundo coloca a Taalas em um patamar muito acima das soluções atuais, que geralmente atingem algumas centenas ou poucos milhares de tokens por segundo. Se a tecnologia se confirmar em escala comercial, pode redefinir os padrões de desempenho para aplicações de IA em tempo real.

Especialistas apontam que a abordagem de circuitos específicos por modelo tem limitações, como a necessidade de re-fabricar o chip para cada novo modelo. No entanto, para modelos estáveis e amplamente usados, a técnica pode ser extremamente vantajosa.

A AMD não detalhou o roadmap de integração da Taalas em seus produtos, mas a aquisição deve acelerar o desenvolvimento de soluções de inferência de alta performance. A empresa também pode usar a tecnologia para fortalecer sua linha de data centers e atrair clientes que buscam alternativas à NVIDIA.

A notícia chega em um momento em que a corrida por eficiência em IA se intensifica, com empresas buscando reduzir custos e aumentar a velocidade de processamento. A aquisição da Taalas é mais um passo da AMD para se posicionar como um player relevante nesse mercado.

A comunidade de código aberto também observa com interesse: se a tecnologia da Taalas for disponibilizada para modelos abertos, pode democratizar o acesso a inferência de altíssima performance, alinhando-se à visão de uma IA mais acessível e menos concentrada.

Por enquanto, a AMD não comentou sobre planos de abrir a tecnologia ou de oferecê-la como serviço. O foco imediato parece ser integrar a Taalas ao portfólio existente e explorar sinergias com suas linhas de GPUs e CPUs.

A aquisição também levanta questões sobre o futuro dos chips especializados versus os de propósito geral. Enquanto a NVIDIA aposta em GPUs flexíveis, a AMD agora tem uma carta na manga para competir em nichos específicos de inferência.

O movimento da AMD é visto como uma resposta direta à crescente demanda por inferência de baixa latência em aplicações como chatbots, assistentes virtuais e sistemas autônomos. Com a Taalas, a empresa pode oferecer soluções mais rápidas e eficientes para esses casos de uso.

A expectativa é que mais detalhes sobre a integração e os primeiros produtos baseados na tecnologia da Taalas sejam revelados nos próximos meses. Até lá, o mercado acompanha de perto os desdobramentos dessa aquisição.

Em resumo, a compra da Taalas pela AMD representa um avanço significativo na busca por desempenho extremo em inferência de IA, com potencial para impactar todo o ecossistema de hardware e software. A promessa de 17.000 tokens por segundo é um marco que pode acelerar a adoção de modelos de linguagem em escala.