Forschung · Verteiltes GPU-Training
Verteiltes GPU-TrainingKI-Infrastruktur

Große Modelle trainieren –
auf eigener Hardware.

OMNI-Train ist unsere Forschungsplattform für verteiltes KI-Training. Sie trainiert sehr große Modelle auf GPU-Clustern mit PyTorch DDP und FSDP. Das sind dieselben Verfahren wie bei den aktuellen Spitzenmodellen – ausgelegt für Infrastruktur, die Ihnen gehört.

OMNI-Trainunsere Trainingsplattform
DDP·FSDPVerteilung direkt mit PyTorch
Multi-Nodeein Job über den ganzen Cluster
On-premIhre Daten bleiben im Haus
Worum es geht

Rechenleistung ist heute der Engpass. Und sie macht abhängig.

Viele wollen Modelle trainieren und feinabstimmen. Nur wenige können es. Gemietete Rechenleistung ist teuer, und Ihre Daten landen in fremden Clouds. Eigene GPUs bedeuten Ärger mit Schedulern, ausfallenden Knoten und Karten, die ungenutzt Geld kosten. Die Modelle werden jedes Jahr einfacher. Die Infrastruktur nicht.

Mit OMNI-Train wird Training über mehrere Knoten zur Routine. Jobs werden mit DDP und FSDP verteilt. Checkpoints überstehen den Ausfall einzelner Knoten. Die Auslastung können Sie vor jedem CFO vertreten. Und alles läuft on-premises – für Organisationen, deren Daten das Haus nicht verlassen dürfen. Mit dieser Plattform trainieren wir unsere eigenen Modelle, auch die Branderkennung von Argus AI.

Über die Modelle wird geredet. Wer sie trainieren kann, entscheidet die Infrastruktur.

Forschungsfelder

Vier Probleme, eine Plattform.

Orchestrierung

Viele Knoten, ein Job

Scheduling über mehrere KnotenPyTorch DDPFSDP-ShardingWarteschlangen & Prioritäten

Effizienz

Jede GPU muss ihre Stromkosten wert sein

AuslastungsmessungProfilingMixed PrecisionKosten pro Lauf

Resilienz

Training, das Ausfälle übersteht

Fehlertolerantes CheckpointingAutomatische WiederherstellungElastische SkalierungÜberwachung der Läufe

Souveränität

Ihre Modelle, Ihre Hardware

On-premises-ClusterAir-Gap-OptionenDatenhoheitHybrid Burst

Sie wollen Modelle auf eigener Hardware trainieren?

Vom ersten Fine-Tuning bis zum Cluster, der sich rechnet. Zu Ihren Bedingungen, auf Ihrer Hardware.

Mit dem Forschungsteam sprechen