Embora hoje em dia a pilha de software Habana Labs Linux, de propriedade da Intel, seja um exemplo brilhante de uma solução de acelerador de IA de código aberto com suporte de driver de kernel principal e também ajudando a reunir o novo subsistema de acelerador de computação, nem sempre foi tão abençoado. Inicialmente, havia os bits de espaço do usuário de código fechado que felizmente no ano passado foram abertos com o SynapseAI Core.
Antes mesmo de ser propriedade da Intel, o Habana Labs era um bom colaborador do kernel do Linux para seu driver de kernel”habanalabs”char/misc, fornecendo suporte para seus aceleradores Gaudi e Goya, mas onde o atrito surgiu dependia do código fechado espaço do usuário, particularmente em torno de seu compilador. Felizmente, isso foi corrigido com o lançamento do SynapseAI Core como código aberto.
A implementação do espaço do usuário de referência SynapseAI Core para interagir com a API SynapseAI do Habana Gaudi. Este código-fonte aberto implementa todas as APIs relevantes, contém uma biblioteca de back-end para execução de código com o driver do kernel, uma biblioteca com kernels de amostra Tensor Processing Core (TPC) e outros códigos relevantes. O repositório GitHub”tpc_llvm”da Via Habana também é seu compilador TPC LLVM.
O que é notável neste domingo agora é ter o SynapseAI Core atualizado com suporte para Gaudi2. Voltando ao início deste ano, a Intel tem trabalhado no suporte ao driver do kernel Gaudi2, construindo o código Gaudi de primeira geração no driver do kernel habanalabs. Agora, o código de espaço do usuário de referência Gaudi2 também foi lançado.
SynapseAI_Core 1.1.0 foi marcado esta manhã e adiciona suporte para o acelerador Gaudi2 para acompanhar o suporte de hardware do kernel Linux mais recente.
O Gaudi2, como lembrete, destina-se ao treinamento de cargas de trabalho de aprendizado profundo com aumento maciço de desempenho em relação ao Gaudi original. A Intel/Habana Labs promoveu o Gaudi2 como oferecendo cerca de ~2x mais do que o NVIDIA A100 para ResNet-50 e BERT. Os interessados podem aprender mais sobre o hardware em habana.ai.
