No início deste ano, a Samsung apresentou os primeiros módulos HBM-PIM (High-Bandwidth Memory Processing-In-Memory) do mundo com processamento integrado. Essa nova tecnologia de memória oferece desempenho mais rápido para aplicativos de IA, reduzindo o consumo de energia. Agora, a empresa sul-coreana anunciou que expandirá esta tecnologia DRAM para mais aplicações.
Durante a Hot Chips 33, uma exposição anual onde novas tecnologias de semicondutores são reveladas, a Samsung Semiconductor anunciou a primeira aplicação comercial de HBM-PIM. Esta tecnologia futurística foi testada no acelerador Xilinx Virtex Ultrascale + (Alveo) AI, onde entregou um processamento 2,5x mais rápido, oferecendo 60% de eficiência energética melhorada. Isso mostra que o HBM-PIM está pronto para uma gama mais ampla de aplicações, incluindo servidores comerciais e dispositivos móveis.
AXDIMM (DIMM de aceleração) são módulos DRAM alimentados por chips HBM-PIM e incluem ambos os chips de memória e núcleos de processamento. Essa combinação reduz grandes movimentos de dados entre CPU e DRAM. O mecanismo de IA construído dentro do chip de buffer pode realizar processamento paralelo de vários níveis de memória, melhorando muito a velocidade e a eficiência de energia.
Esses módulos AXDIMM mantêm o fator de forma DIMM convencional, o que significa que os DIMMs tradicionais podem ser facilmente substituídos por AXDIMMs. Eles estão atualmente sendo testados em servidores de clientes e foi observado que eles oferecem o dobro do desempenho em aplicativos de recomendação baseados em IA, ao mesmo tempo em que oferecem eficiência de energia 40% melhor. A SAP está testando o AXDIMM para oferecer melhor desempenho no SAP HANA e para acelerar o banco de dados.
A Samsung também anunciou que em breve traria o processamento na memória para dispositivos móveis por meio de módulos LPDDR5-PIM. Esses módulos oferecem o dobro do desempenho em certas tarefas de IA, como chatbot, tradução e reconhecimento de voz. O líder mundial no segmento de memória planeja padronizar a plataforma PIM no primeiro semestre de 2022, trabalhando com outros líderes da indústria.
Nam Sung Kim, vice-presidente sênior de produtos e tecnologia de DRAM da Samsung Electronics, disse , “HBM-PIM é a primeira solução de memória customizada de IA da indústria sendo testada em sistemas aceleradores de IA de clientes, demonstrando um enorme potencial comercial. Por meio da padronização da tecnologia, os aplicativos se tornarão numerosos, expandindo para HBM3 para supercomputadores de próxima geração e aplicativos de IA, e até mesmo em memória móvel para IA no dispositivo, bem como para módulos de memória usados em centros de dados. ”
