Seit Juni letzten Jahres, kurz nachdem Intel den KI-Beschleuniger Gaudi 2 angekündigt hatte, begannen sie mit der Veröffentlichung der Open-Source-Treiberpatches für Gaudi 2 mit dem Haupttreiber von Habana Labs. Diese Unterstützung wurde in Linux 6.0 eingeführt und seitdem wurde die Unterstützung für diese neue Prozessorunterstützung für Deep-Learning-Training und Inferenz-Workloads weiter verfeinert.
Mit den folgenden Kernel-Updates hat Intel die Gaudi 2-Unterstützung im Habana Labs-Kernel-Treiber weiter verbessert, aber es war nicht klar, wie stabil oder vollständig die Unterstützung war, da es an Hardware-Zugriff mangelte und es noch keine öffentliche Kommunikation darüber gab Welche Teile fehlen möglicherweise oder wie stabil ist die Unterstützung mit diesem sich ständig verbessernden Open-Source-Code?
Heute gibt es die erste Bestätigung, dass die Intel Gaudi 2-Unterstützung derzeit ziemlich gut funktioniert, wenn der neueste Mainline-Linux-Kernel-Treiber verwendet wird. Oded Gabbay, langjähriger Linux-Treiberentwickler/-Betreuer von Habana Labs, kommentierte im heutigen Pull-Request:
„Da Gaudi2 ziemlich stabil ist, enthält dies hauptsächlich Fehlerbehebungen sowie kleine Optimierungen und Verbesserungen.“
Mit dem aktuellen Linux 6.4-Kernel sollte die Gaudi 2-Unterstützung also „ziemlich stabil“ sein, während es beim kommenden Linux 6.5-Zyklus nur um Fehlerbehebungen und kleinere Optimierungen geht.
Dieser Kommentar kam über dieser Pull-Request der Verbesserungen des Habana Labs-Beschleunigertreibers, die heute für DRM-Next eingereicht wurden um wiederum ihren Weg in den Mainline-Kernel zu finden, sobald das Merge-Fenster für Linux 6.5 gegen Ende des Monats geöffnet wird.
Zusätzlich zur Gaudi 2-Unterstützung im Linux-Kernel verfügt ihr Open-Source-SynapseAI-Core im Benutzerbereich auch bereits über Gaudi 2-Unterstützung. Die KI-Beschleuniger von Intel Habana Labs sind nach wie vor die Open-Source-Upstream-Beschleunigeroption, die derzeit für KI-Training und-Inferenz verfügbar ist.