Quando você tem centenas de milhares de aceleradores de IA em seus data centers, como a Microsoft, os problemas se acumulam facilmente, especialmente com o resfriamento. Hoje, a Microsoft apresentou suas placas de resfriamento personalizadas, que utilizam microfluídica para transportar o líquido refrigerante para canais microscópicos gravados diretamente na parte traseira dos chips de silício, prometendo dissipar o calor com muito mais eficiência do que os sistemas de placas frias padrão atuais. Em testes internos, a abordagem removeu o calor com até três vezes mais eficiência do que as placas frias convencionais e reduziu o pico de temperatura dentro de uma GPU em cerca de dois terços. A empresa vê esses resultados como um caminho para permitir que os data centers extraiam mais desempenho do mesmo hardware, usando menos energia para resfriamento.
Em vez de depender de uma placa fria de metal que fica acima de um chip encapsulado, o design da Microsoft esculpe minúsculos microcanais no próprio silício para que o refrigerante possa fluir muito mais perto das fontes reais de calor, a rede de transistores. Os canais são finos como fios de cabelo e seguem um padrão único inspirado na natureza, assemelhando-se mais às nervuras das folhas do que a tubos retos. A Microsoft usou IA para direcionar fluidos para pontos de acesso e mapear a impressão digital térmica de cada chip, melhorando a eficiência em relação aos layouts de canais padronizados.
Aceleradores de IA modernos despejam muita energia em uma área pequena e densa. Por exemplo, o "Rubin Ultra" da NVIDIA foi projetado para produzir 2.300 W de calor a partir de um único acelerador. À medida que cada nova geração de aceleradores se torna mais densa em nós mais novos, os transistores se aproximam e mais transistores podem gerar mais calor. Mesmo que a eficiência melhore com os nós mais recentes, as empresas aproveitam isso para extrair o máximo desempenho. No entanto, o resfriamento convencional está atingindo limites práticos. O resfriamento microfluídico reduz a barreira térmica entre o refrigerante e o transistor, permitindo que o líquido atinja o máximo contato com a camada do transistor. Isso, por sua vez, permite densidades de rack mais altas, clocks mais altos durante breves picos de demanda e novas opções de encapsulamento, como layouts de chip 3D que antes eram bloqueados pelo calor.
Trazer um líquido real, independentemente do seu tipo, para dentro do chip apresenta desafios mecânicos e de fabricação. Os canais precisam ser profundos o suficiente para permitir que o fluido absorva calor suficiente, mas rasos o suficiente para manter a estrutura sem enfraquecê-la. Os encapsulamentos devem ser à prova de vazamentos, e os refrigerantes e os métodos de corrosão exigem validação. Todo o sistema, incluindo silício, placa, servidor e tubulação do data center, deve ser considerado holisticamente. A Microsoft está realizando diversas iterações de design e testes de laboratório para explorar como incorporar microfluídica em futuros chips internos e em parcerias com fabricantes. Para obter esse tipo de resfriamento do chip, a embalagem deve ser produzida pela TSMC, Intel, Samsung ou outra fábrica proprietária.
Fonte: techpowerup
