Alexandre Bailon hat letzte Woche mit Bay Libre den AI Processing Unit „APU“ Direct Rendering Manager-Treiber für die Schnittstelle zwischen CPUs und AI Processing Units verschickt. Die Hoffnung besteht darin, dass dieser APU-Treiber von verschiedenen Hardwaretreibern wiederverwendet werden kann, während der Schwerpunkt zunächst auf der Weiterentwicklung der KI-Funktionen des MediaTek MT8183 SoC liegt.
Während es bereits das Beschleuniger-Framework „accel“ gibt, das eine Tochtergesellschaft des DRM-Subsystems ist, sieht der neue Vorschlag der Bay Libre-Entwickler diesen APU-Treiber vor, um dieses wachsende Feld von KI-/Beschleuniger-Kernel-Treibern voranzutreiben. Bailon schrieb in der ersten Patch-Reihe: „Dadurch wird ein DRM-Treiber hinzugefügt, der die Kommunikation zwischen der CPU und einer APU implementiert. Der Treiber zielt auf eingebettete Geräte ab, die normalerweise mithilfe einiger vorgefertigter Modelle Inferenzen ausführen. Das Ziel.“ besteht darin, eine gemeinsame Infrastruktur bereitzustellen, die zur Unterstützung vieler Beschleuniger wiederverwendet werden kann. Sowohl Kernel, Userspace als auch Firmware versuchen, Standard und Vorhandenes zu nutzen, um den Entwicklungs-und Wartungsaufwand zu nutzen. Die Serie implementiert zwei Plattformtreiber, einen für die Simulation und einen für der mt8183 (kompatibel mit mt8365).“
Der vorgeschlagene DRM_APU Kconfig-Hilfetext fügt weiter hinzu:
„Dies stellt einen DRM-Treiber bereit, der einige Möglichkeiten zur Kommunikation mit einer AI-Prozessoreinheit bietet.“ (APU). Der Treiber soll eine gemeinsame Infrastruktur bereitstellen, die zur Unterstützung vieler verschiedener APUs verwendet werden kann dieser Treiber”APU”. Es wurden einige Vorschläge gemacht, es stattdessen möglicherweise apu_if oder tiny_apu zu nennen. Wir werden sehen, was aus dieser Anstrengung wird. Interessierte können sich die erste Patch-Serie ansehen, um mehr darüber zu erfahren der APU-Treiber als neueste Open-Source-Leistung im wachsenden Bereich der KI-Beschleunigertreiber.
Unter anderen laufenden Open-Source-KI-Kerneltreibern gilt Intel Habana Labs als der bemerkenswerteste und robusteste Treiber in diesem Bereich, gefolgt vom neuen Intel Versatile Processing Unit (iVPU) für Meteor Lake sowie Treiber von Qualcomm, Toshiba und anderen, die sich in verschiedenen Entwicklungsstadien befinden.
