Dr. Lisa Su, CEO van AMD, heeft de toewijding van het bedrijf aan de open-source ROCm-computerstack en de samenwerking met de gemeenschap om uiteindelijk hun softwareondersteuning te verbeteren, opnieuw bevestigd.
Prominente software-engineer George Hotz heeft gewerkt aan Tiny Corp als het bedrijf achter tinygrad als een neuraal netwerkframework en ze creëren de”tinybox”als een op HPC/AI gericht systeem van $ 15.000, gericht op 738 FP16 TFLOP’s met AMD EPYC CPU’s en hopelijk AMD GPU’s. Maar om AMD GPU’s te laten werken in de Tinybox, hebben ze verbeteringen nodig aan de open-source AMD-rekenstack om AMD te laten werken en goed te laten presteren voor MLPerf.
George Hotz heeft zich vrij uitgesproken over de problemen waarmee de AMD ROCm-rekenstapel momenteel wordt geconfronteerd en wilde persoonlijk werken aan verbeteringen aan de AMD-rekenstapel. Een paar weken geleden had hij ruzie met de AMD-rekeninspanningen en besloot hij niet langer AMD GPU-rekenopties na te streven. Maar het lijkt erop dat er weer een koerswijziging heeft plaatsgevonden en hij zich weer kan concentreren op het verbeteren van AMD GPU-rekenondersteuning met de open-source stack.
Hotz tweette op vrijdag dat Tiny Corp weer bezig is met het”get AMD on MLPerf”-plan’en hij sprak met Lisa Su. Na zijn gesprek met Lisa Su gelooft hij dat”de dingen beter zullen worden en dat AMD zich in het openbaar zal gaan ontwikkelen”.
Lisa Su twitterde later om-bevestig haar toewijding om met de gemeenschap samen te werken en hun ondersteuning rond ROCm op Radeon te verbeteren.
Bedankt voor het koppelen @realGeorgeHotz. Waardeer het werk dat jij en tiny corp doen. We zijn vastbesloten om samen te werken met de gemeenschap en onze ondersteuning te verbeteren. Binnenkort meer op ROCm op @radeon. Veel werk voor de boeg, maar enthousiast over wat we samen kunnen doen.
— Lisa Su (@LisaSu) 16 juni 2023
Hopelijk houdt dit in dat ROCm wordt ondersteund op meer hardware dan alleen hun werkstation grafische kaarten en Instinct-versnellers. Een van de grootste frustraties op dit moment is dat hoewel NVIDIA CUDA al generaties lang breed wordt ondersteund in al hun hardware, AMD ROCm-ondersteuning officieel wordt ondersteund op slechts een kleine subset van kaarten. Voor consumentenkaarten is de RDNA/RDNA2/RDNA3-ondersteuning traag op gang gekomen. De ondersteuning van het software-ecosysteem van ROCm is in de loop der jaren verbeterd, maar is ook niet zo eenvoudig/ongecompliceerd als het volwassen CUDA-landschap. Velen in de gemeenschap zouden ook graag zien dat AMD bugs sneller aanpakt en het gemakkelijker maakt om de ROCm-stack te implementeren buiten de weinige ondersteunde zakelijke Linux-distributies die officieel door het bedrijf zijn goedgekeurd.
