Angriff auf Nvidias Software-Vorsprung: Amazon öffnet TorchNeuron für eigene KI-Chips
Mit einer einzigen Einstellung sollen KI-Programme in PyTorch auf Amazons Trainium-Chips laufen. Die Software wird heute als Open Source freigegeben – sie zielt auf Nvidias Bollwerk CUDA.
Grafik: TERRA WORLD NEWS (eigene Darstellung nach den genannten Quellen)
Amazon will Entwicklern den Umstieg von Nvidia-Grafikprozessoren auf seine eigenen KI-Chips deutlich erleichtern. Die neue Software TorchNeuron lässt vorhandenen Code für das verbreitete KI-Framework PyTorch auf den Chips Trainium2 und Trainium3 laufen – laut Amazon genügt dafür eine einzige Konfigurationsänderung, ohne den Code umzuschreiben. Die Software wird am Dienstag zum Auftakt der PyTorch Conference in San José unter der freien Apache-2.0-Lizenz veröffentlicht.
Nach Darstellung der Nachrichtenagentur Reuters ist das ein Versuch, Nvidias Software-Vorsprung zu schwächen: Der Marktführer hat über mehr als ein Jahrzehnt seine Plattform CUDA aufgebaut, mit der PyTorch-Programme besonders gut auf Nvidia-Chips laufen. Amazon zufolge schreiben 85 Prozent der KI-Forscher und -Entwickler ihren Code in PyTorch. Auch Google arbeitet daran, Entwickler mit besseren PyTorch-Werkzeugen für seine eigenen KI-Chips zu gewinnen.
Mehr als 30 frühe Kunden aus Robotik, Weltmodellen und Sprach-KI nutzen die Software bereits, sagte Colin Brace, Software-Vizepräsident von Amazons Chipsparte Annapurna Labs, zu Reuters. Es gehe darum, „Kunden dort abzuholen, wo sie stehen“. Genannt werden etwa das Sprach-KI-Start-up Cartesia und das Lieber Institute for Brain Development; Hugging Face unterstützt Trainium nun direkt in seinen Werkzeugen.