Um olhar sóbrio sobre o boom da computação de IA: de que tipo de motor precisamos realmente?

Abra o Twitter, o LinkedIn ou qualquer blog de tecnologia neste momento e será imediatamente bombardeado com uma série de palavras da moda. TOPS, parâmetros, motores neurais, LLMs. Estamos no meio de uma enorme corrida ao armamento da IA, e os fabricantes de hardware apregoam aos quatro ventos quem tem os números maiores.

Mas paremos um momento. Deixemos de lado o ruído do marketing e olhemos para isto da perspetiva de quem realmente faz o trabalho: programadores, criadores e investigadores. Nesta era de potência de computação em rápido crescimento, de que tipo de motor de IA precisamos realmente nas nossas secretárias?

A ilusão da cloud e a realidade local
Há um ou dois anos, a resposta era simples: a cloud. Entregávamos o trabalho pesado a grandes centros de servidores. Era fácil e acessível. Mas a lua de mel está a chegar ao fim. Entre limites rigorosos de utilização das API, a preocupação constante de carregar código proprietário da empresa para servidores de terceiros e o custo contínuo das subscrições mensais, o consenso do setor está a mudar rapidamente: precisamos de executar IA localmente.

A privacidade dos dados já não é um luxo; é uma exigência. E ter acesso aos seus modelos sem latência muda completamente o fluxo de trabalho.

O problema: voltámos atrás no tempo
Então, como respondeu o mercado de hardware a esta necessidade de IA local? Entregando-nos enormes e pesados PCs em torre.

Para obter a potência necessária para executar modelos com muitos parâmetros ou renderizar cenas complexas geradas por IA, fomos obrigados a regredir. Voltámos a colocar monólitos metálicos de 40 libras debaixo das secretárias. Aquecem a divisão como um forno, consomem enormes quantidades de energia e soam como um avião a descolar sempre que executa um processo em lote.

Parece um paradoxo: utilizamos o software mais futurista alguma vez criado, mas executamo-lo em formatos de hardware de há uma década. Será mesmo o melhor que conseguimos fazer?

A reflexão a frio: potência bruta não basta
Eis a realidade incontornável que muitas vezes fica escondida nas guerras de especificações: a potência de computação bruta (TOPS) é apenas metade da história.

Se alguma vez tentou realmente executar um modelo de linguagem de grande dimensão localmente, sabe exatamente onde está o verdadeiro estrangulamento. Nem sempre é o processador; é a memória. É na transferência de enormes conjuntos de dados entre a CPU e uma placa gráfica dedicada que o desempenho começa a falhar. Pode ter o chip mais rápido do mundo, mas se a largura de banda da memória for limitada, é como colocar um motor Ferrari num engarrafamento. A IA consome RAM e largura de banda vorazmente.

Além disso, resolver tudo à força bruta com uma GPU enorme e sedenta de energia não é elegante. Precisamos de arquiteturas realmente concebidas para isto: sistemas em que a CPU, uma poderosa GPU integrada e uma NPU dedicada (Neural Processing Unit) trabalham em conjunto de forma fluida, partilhando uma grande reserva de memória unificada ultrarrápida.

Redefinir o motor de IA para desktop
Na Minisforum, temos acompanhado este espaço discretamente e acreditamos que o setor está a olhar para o problema ao contrário. Não deveria ter de sacrificar o seu espaço de trabalho para obter desempenho de workstation.

Um verdadeiro motor de IA moderno deveria ser diferente:

Não deveria tomar conta da sua secretária: deve ser elegante, compacto e discreto. Deve ficar silenciosamente na secretária, sem a dominar.

Precisa de largura de banda de “autoestrada”, não apenas de grande capacidade: ter 32GB ou 64GB de RAM é útil, mas para cargas de trabalho de IA reais é necessária uma capacidade enorme (pense em 128GB) combinada com velocidades de transferência excecionais. A barreira entre a memória da CPU e da GPU tem de desaparecer.

Exige eficiência cirúrgica: em vez de recorrer à força bruta, consumir muita energia e gerar enormes quantidades de calor, precisa de hardware dedicado à IA (NPU) para tratar de forma eficiente a inferência em segundo plano.

Sem compromissos no I/O: tem de se ligar a tudo. Vários ecrãs 8K, portas de rede ultrarrápidas e opções de expansão de elevada largura de banda.

O futuro é denso
Estamos num ponto de viragem. O futuro do desenvolvimento de IA, da renderização 3D e dos fluxos de trabalho criativos não deveria estar limitado a racks de servidores ou enormes torres ruidosas.

A verdadeira revolução do hardware não será apenas colocar mais transístores numa placa. Será uma questão de densidade. Acontecerá quando uma verdadeira potência de IA de nível workstation, sem compromissos, se tornar tão compacta, silenciosa e elegante como um livro de capa dura pousado ao lado do monitor.

É este o tipo de motor de que realmente precisamos. E é exatamente esse o futuro que estamos a construir.