Dr. Lisa Su, CEO von AMD, hat das Engagement des Unternehmens für den Open-Source-Rechenstapel ROCm, die Zusammenarbeit mit der Community und letztendlich die Verbesserung des Software-Supports bekräftigt.
Der bekannte Software-Ingenieur George Hotz hat an Tiny Corp als dem Unternehmen gearbeitet, das hinter Tinygrad als neuronalem Netzwerk-Framework steht, und sie entwickeln die „Tinybox“ als ein 15.000 US-Dollar teures HPC/KI-fokussiertes System mit dem Ziel 738 FP16 TFLOPs mit AMD EPYC-CPUs und hoffentlich AMD-GPUs. Damit AMD-GPUs jedoch in der Tinybox funktionieren, sind Verbesserungen am Open-Source-Compute-Stack von AMD erforderlich, damit AMD für MLPerf läuft und eine gute Leistung erbringt.
George Hotz äußerte sich deutlich zu den Problemen, mit denen der AMD ROCm-Rechenstapel derzeit konfrontiert ist, und wollte persönlich an Verbesserungen des AMD-Rechenstapels arbeiten. Vor ein paar Wochen geriet er mit den Rechenbemühungen von AMD in Konflikt und beschloss, die GPU-Rechneroptionen von AMD nicht mehr weiter zu verfolgen. Aber es scheint, dass es einen weiteren Kurswechsel gegeben hat und er sich wieder auf die Verbesserung der AMD-GPU-Rechenunterstützung mit dem Open-Source-Stack konzentriert.
Hotz hat am Freitag getwittert, dass Tiny Corp wieder an dem Plan „AMD auf MLPerf holen“ arbeitet”und er sprach mit Lisa Su. Nach seinem Gespräch mit Lisa Su glaubt er, dass „die Dinge besser werden und AMD beginnen wird, sich in der Öffentlichkeit zu entwickeln.“
Lisa Su twitterte später zu re-Bestätigen Sie ihr Engagement für die Zusammenarbeit mit der Community und die Verbesserung ihrer Unterstützung rund um ROCm auf Radeon.
Vielen Dank für die Verbindung @realGeorgeHotz. Schätzen Sie die Arbeit, die Sie und Ihr kleines Unternehmen leisten. Wir sind bestrebt, mit der Community zusammenzuarbeiten und unsere Unterstützung zu verbessern. Weitere Informationen zu ROCm auf @radeon folgen bald. Es liegt noch viel Arbeit vor uns, aber ich bin gespannt darauf, was wir gemeinsam erreichen können.
– Lisa Su (@LisaSu) 16. Juni 2023
Hoffentlich gehört dazu auch, dass ROCm auf mehr Hardware als nur seinen Workstation-Grafikkarten und Instinct-Beschleunigern unterstützt wird. Eine der größten Enttäuschungen im Moment ist, dass NVIDIA CUDA zwar seit Generationen auf der gesamten Hardware weitgehend unterstützt wird, AMD ROCm-Unterstützung jedoch offiziell nur auf einer kleinen Untergruppe von Karten unterstützt wird. Bei Verbraucherkarten kam die RDNA/RDNA2/RDNA3-Unterstützung nur langsam zustande. Die Unterstützung des Software-Ökosystems von ROCm hat sich im Laufe der Jahre verbessert, ist aber auch nicht so einfach/geradlinig wie die ausgereifte CUDA-Landschaft. Viele in der Community würden sich außerdem wünschen, dass AMD Fehler schneller behebt und die Bereitstellung des ROCm-Stacks außerhalb der wenigen unterstützten Enterprise-Linux-Distributionen, die vom Unternehmen offiziell empfohlen werden, einfacher macht.