
Große Modelle trainieren –
auf eigener Hardware.
OMNI-Train ist unsere Forschungsplattform für verteiltes KI-Training. Sie trainiert sehr große Modelle auf GPU-Clustern mit PyTorch DDP und FSDP. Das sind dieselben Verfahren wie bei den aktuellen Spitzenmodellen – ausgelegt für Infrastruktur, die Ihnen gehört.
Rechenleistung ist heute der Engpass. Und sie macht abhängig.
Viele wollen Modelle trainieren und feinabstimmen. Nur wenige können es. Gemietete Rechenleistung ist teuer, und Ihre Daten landen in fremden Clouds. Eigene GPUs bedeuten Ärger mit Schedulern, ausfallenden Knoten und Karten, die ungenutzt Geld kosten. Die Modelle werden jedes Jahr einfacher. Die Infrastruktur nicht.
Mit OMNI-Train wird Training über mehrere Knoten zur Routine. Jobs werden mit DDP und FSDP verteilt. Checkpoints überstehen den Ausfall einzelner Knoten. Die Auslastung können Sie vor jedem CFO vertreten. Und alles läuft on-premises – für Organisationen, deren Daten das Haus nicht verlassen dürfen. Mit dieser Plattform trainieren wir unsere eigenen Modelle, auch die Branderkennung von Argus AI.
Über die Modelle wird geredet. Wer sie trainieren kann, entscheidet die Infrastruktur.
Vier Probleme, eine Plattform.
Orchestrierung
Viele Knoten, ein Job
Effizienz
Jede GPU muss ihre Stromkosten wert sein
Resilienz
Training, das Ausfälle übersteht
Souveränität
Ihre Modelle, Ihre Hardware

