AMD tendrá un equivalente de Tensor Core
Los ingenieros de software de AMD comenzaron a implementar nuevos parches para la próxima arquitectura GFX11, también conocida como RDNA3. Un parche reciente indica que AMD está preparando sus propias instrucciones que pueden operar en matrices.
La empresa podría estar allanando el camino para admitir algoritmos avanzados de inteligencia artificial, como las modernas tecnologías de súper resolución con su próxima arquitectura RDNA3. AMDGPU es un backend para las GPU de AMD para la biblioteca del compilador LLVM, actualizado por los propios empleados de AMD. Algunos usuarios siguen muy de cerca estos parches, que a menudo revelan lo que la nueva generación de GPU podría traer a la mesa.
En este caso, Wave Matrix Multiply-Accumulate se agregó a la arquitectura GFX11. Este es el nombre en clave de las próximas GPU de juegos de consumo RDNA3. Esta instrucción, como sugiere su nombre, operará en matrices: arreglos rectangulares de tablas que contienen números. Los algoritmos de IA/ML utilizan mucho este tipo de datos para multiplicar grandes conjuntos de números.
Esta no es la primera arquitectura de AMD compatible con matriz Aunque las operaciones. AMD ya lo soporta a través de su arquitectura CDNA. Una instrucción conocida como MFMA (Matrix-Fused-Multiply-Add) es compatible con esta arquitectura orientada a la computación. La diferencia está en el formato de las matrices soportadas y los formatos de salida. El código publicado para AMDGPU sugiere que WMMA solo admite matrices de 16x16x16, y puede generar formatos de datos FP16 y BF16.
//WMMA (Wave Matrix Multiply-Accumulate) intrínsecos
//
//Estas operaciones realizan una multiplicación matricial y una acumulación de
//la forma: D=A * B + C.
AMD WMMA podría considerarse una respuesta a Tensor Core, que ha estado presente en las GPU NVIDIA desde la arquitectura Volta. NVIDIA ha comercializado esta instrucción avanzada para impulsar la tecnología de superresolución basada en IA de NVIDIA DLSS. Intel también tiene sus propias instrucciones XMX/DPAS que operan en matrices que pueden impulsar la tecnología XeSS aún no lanzada.
¿Sugeriría esto que AMD está preparando su propia tecnología de súper resolución impulsada por algoritmos de IA? En caso afirmativo, AMD WMMA debería ser compatible con el núcleo NVIDIA Tensor, porque de lo contrario se convertiría en otra tecnología patentada solo compatible con las propias GPU de AMD.
Fuente: LLVM a través de @Kepler_L2, Coelacant’s Dream