Flow Matching ist ein generativer Ansatz, der Rauschen in Daten verwandelt, indem ein Vektorfeld gelernt wird – statt einer Rausch-Vorhersage wie beim klassischen DDPM. Die Methode wurde 2022 von Lipman et al. bei Meta vorgestellt und liegt modernen Modellen wie Stable Diffusion 3 (Rectified Flow) zugrunde.
Die Grundidee
Man stellt sich vor, jeder Datenpunkt startet als Rauschen und bewegt sich auf einem geraden Pfad zum echten Datenpunkt – mit konstanter Geschwindigkeit. Ein neuronales Netz lernt das Geschwindigkeitsfeld v(x, t): An jeder Position und jedem Zeitpunkt gibt es an, wohin man sich bewegen muss. Beim Erzeugen integriert man dieses Feld numerisch vom Rausch- zum Datenzustand – oft mit wenigen Schritten.
Der Flow-Matching-Trick
Direkt das Vektorfeld der Datenverteilung zu lernen ist schwer, weil man die Verteilung nicht kennt. Der Trick: Stattdessen lernt man Paar-weise – für jedes Rausch-Daten-Paar ist das Ziel-Vektorfeld einfach die Gerade zwischen beiden. Der Flow-Matching-Verlust ist der Mittelwert über diese einfachen Teilziele. Mathematisch entspricht das Training dem Lernen einer kontinuierlichen Normalisierenden Fluss-Transformation (CNF), ohne die Dichte explizit ausrechnen zu müssen.
Warum wichtig?
Flow Matching verbindet die Stabilität von Diffusionsmodellen mit deutlich weniger Sampling-Schritten: Rechte (straight) Pfade lassen sich in 1-10 Schritten integrieren, während ein DDPM typischerweise 1000 braucht. In der Praxis nutzen Rectified-Flow-Varianten von Stable Diffusion 3 und FLUX diese Effizienz.
Verwandte Grundlagen: DDPM, Score-Based Model, Diffusion Model, Stable Diffusion.