§1Warum Training

Der härteste Workload hält alles darunter ehrlich

Batchdeine DatenVorwärtsauf deiner GPUVerlustdie AbweichungRückwärtsdie GradientenOptimizer-SchrittAdamWjeder SchrittCheckpoint 9f2e…Verlust — fällt
Abb. 1 — Eine Runde der Trainingsschleife: vorwärts, Verlust, Gradienten zurück, Gewichte aktualisiert — sie wiederholt sich auf deiner eigenen GPU und legt dabei einen Checkpoint ab, den du fortsetzen oder zitieren kannst.

Scellis trainiert Modelle — es führt sie nicht bloß aus. Training ist der Workload, um den die Plattform herum gebaut wurde, und zwar genau deshalb, weil er alles darunter zwingt, echt zu sein: Eine Schleife, die Gradienten anfasst, braucht explizite Speicherplanung, strukturierten Kontrollfluss, ein Korrektheitsregime, reproduzierbaren Zufall und Checkpoints. Härtet man eine Plattform an ihrem härtesten Fall, trägt dieselbe Maschinerie danach eine Simulation oder eine statistische Analyse genauso gut. Und wenn du sehen willst, was zwischen deiner Zeichnung und dem Code auf deiner GPU passiert, öffnet der Guide jede Stufe: von der gezeichneten Grafik zum GPU-Code.

Die GPU, die dabei rechnet, ist die, die dir schon gehört — Apple, AMD, Intel oder NVIDIA, im Laptop genauso wie in der Workstation —, denn WebGPU ist die browsereigene Schnittstelle dorthin: kein CUDA, keine Treiber, nichts zu installieren, keine Admin-Rechte. Hat ein Gerät gar keine nutzbare GPU, läuft derselbe Workflow weiter auf einem langsameren CPU-Pfad — als solcher benannt, nie stillschweigend; was das bei einem großen Modell kostet, steht in den ehrlichen Grenzen.

Die Schleife selbst ist ein Programm, das du lesen kannst. Vorwärts, Verlust, Rückwärts und Optimizer-Schritt durchlaufen dieselben Stufen wie jeder andere Workflow — es gibt keinen Sonderpfad für Modelle —, und die Schleife wird Schritt für Schritt gefahren. Eine Entscheidung, die von den Daten abhängt — einen Batch überspringen, der eine kaputte Zahl erzeugt hat, oder die Lernrate auf einem Plateau senken —, drückst du deshalb aus, statt sie anzuflanschen. Ein Solo-Lauf braucht nie einen Server.

§2Die Trainingsoberfläche

Der volle Stack, kein Demo-Ausschnitt

KomponenteAnzahlEingebautes Set
Optimizer9Adam · AdamW · SGD · LAMB · Adafactor · Lion · Sophia · Int8Adam · Prodigy
Loss-Funktionen15MSE · L1 · BCE · CrossEntropy · KLDivergence · FocalLoss · HuberLoss · InfoNCE · TripletMargin …
LR-Scheduler14Warmup, Cosine, One-Cycle, Cyclic, Plateau — plus ein Lernraten-Finder
PEFT-Methoden6LoRA · QLoRA · PrefixTuning · BitFit · IA3 · PromptTuning
Metriken10Accuracy · F1 · Precision · Recall · ConfusionMatrix · Perplexity · AUROC · AUPRC · ECE · Brier
Gewichts-Initialisierung11Xavier · Kaiming · orthogonal · truncated-normal · sparse · pretrained …
Regularisierung5mixup · cutmix · label_smoothing · weight_decay · spectral_norm

Die Zahlen sind der eingebaute Katalog, nie eine Obergrenze — jede Komponente ist gewöhnlicher Content. Eine Methode, die nicht dabei ist — Distillation, DPO, MAML, Curriculum Learning —, schreibst du heute selbst, auf derselben Maschinerie.

Alles, was eine Trainingsschleife braucht, ist vorhanden, budgetiert und inspizierbar — und jedes Teil davon ist ein gewöhnlicher Katalog-Eintrag statt eines hartkodierten Zweigs. Alle trainingsrelevanten Einstellungen leben an einem Ort, in Model View: Optimizer, Scheduler und Loss kommen aus dem Katalog; Epochen, Batch-Größe, Precision, Clipping und Metriken setzt du am Modell selbst. Das Rezept bleibt am Modell, statt sich über Skripte zu verteilen.

Jenseits der Tabelle gibt es mehr: adversariales Zwei-Netz-Training (GAN), EMA- und SWA-Gewichtsmittelung, Gradient Accumulation und Clipping, Activation Checkpointing, Augmentierung mit gewichtetem Sampling, NF4-quantisiertes Fine-Tuning über QLoRA — dazu Int4- und Int8-Quantisierung für die Inferenz — und Model Surgery: einfrieren, auftauen, Adapter einsetzen. Und das eingebaute Set ist ein Startkatalog, keine Obergrenze: Ein Optimizer oder ein Loss, den du selbst schreibst, durchläuft dieselben Prüfungen wie die eingebauten und läuft identisch — die Engine sieht den Unterschied nicht.

§3Passt es?

Die Speicherfrage, beantwortet vor dem ersten Schritt

deine GPU · 12 GBvolles Fine-Tuning15,6 GB — abgelehntQLoRA · Checkpointing4,0 GB — passtParameterAktivierungenGradientenOptimizer-ZustandArbeitsspeicher
Abb. 2 — Der Speicherplan, bevor irgendetwas läuft. Die fünf Klassen stapeln sich zu einem Peak: Ein volles Fine-Tuning sprengt dieses Gerät und wird abgelehnt. QLoRA plus Activation Checkpointing lässt Gradienten und Optimizer-Zustand zusammenschrumpfen und verkleinert die Aktivierungen — derselbe Lauf passt.

Bevor irgendeine Arbeit die GPU erreicht, addiert der Planner den Spitzenbedarf des Laufs — Parameter, Aktivierungen, Gradienten, Optimizer-Zustand, Arbeitsspeicher, dazu die zusätzliche volle Gewichtskopie, die Mixed Precision mitführt — und prüft die Summe gegen das, was dein Gerät wirklich hat. Die Entscheidung ist eindeutig: grün läuft; gelb läuft mit Warnungen; rot wird vorab abgelehnt, mit den passenden Abhilfen dabei — Batch verkleinern, Activation Checkpointing einschalten, Daten streamen, Precision wechseln. Du musst nie raten, wie viel GPU-Speicher ein Lauf braucht — und erfährst es nie erst eine Stunde später.

Der Plan ist auch bei der Kapazität ehrlich. Ein Modell, dessen Parameter und Optimizer-Zustand den Speicher eines Geräts übersteigen, kann dort bei keiner Batch-Größe trainieren — der Planner sagt es dir, bevor du eine Minute Rechenzeit ausgibst, und benennt, was wirklich hilft: Adapter (QLoRA senkt den Speicherbedarf eines Fine-Tunings um das Vier- bis Achtfache), den Optimizer-Zustand über Geräte verteilen, oder Geräte bündeln — was den Durchsatz vervielfacht, nicht den Speicher eines einzelnen Geräts; diese Unterscheidung steht dort in aller Deutlichkeit.

§4Präzision & Mechanismen

Benannte Mechanismen, nie erfundene Zahlen

Mixed Precision ist eine echte Policy, keine Checkbox: eine Loss-Skalierung, die sich im Lauf anpasst, ein übersprungener Schritt, wenn ein Batch eine kaputte Zahl erzeugt, eine Master-Kopie der Gewichte in voller Präzision und Reduktionen, die in voller Präzision akkumulieren. Attention ist eine erstklassige Operation mit einer speichereffizienten Umsetzung — statt einer Kette generischer Matrixmultiplikationen, die eine Score-Matrix bräuchte, die in keine GPU-Allokation passt —, und ein Tensor, der für eine Allokation zu groß ist, wird automatisch zerlegt, statt zu scheitern. Aktivierungen neu zu berechnen, statt sie zu speichern, ist eine Einstellung, deren Kosten im Speicherplan sichtbar sind.

Eine Behauptung fehlt hier bewusst: das Geschwindigkeitsrennen. Ein Browser-Tab überholt keine gemietete Rechenzentrums-GPU, und Scellis druckt keinen Multiplikator, der das Gegenteil behauptet. Die Zusagen sind die Mechanismen oben — plus null Installation, deine eigene Hardware, Offline-Betrieb und Rechnen ohne Zähler. Dasselbe gilt nach innen: Der Rückwärtsdurchlauf läuft Schritt für Schritt statt verschmolzen — korrekt, aber Geschwindigkeit bleibt liegen —, und sein Overhead wird gemessen und mit jedem Release neu veröffentlicht, statt behauptet zu werden. Mehr solcher Kanten stehen in den ehrlichen Grenzen.

§5Stoppen und fortsetzen

Ein Lauf, den du stoppen, fortsetzen und reproduzieren kannst

Im CheckpointWas es bewahrt
GewichteDie gelernten Parameter, referenziert über den Hash ihres Inhalts.
Optimizer-ZustandMomentum und Varianz bleiben intakt — ein fortgesetzter Lauf macht weiter, statt sich neu einzupendeln.
ZufallszustandBenannte Teilströme — Dropout, Shuffle, Augmentierung — spielen jede Ziehung nach.
Epoche und SchrittDie exakte Position in der Schleife — Fortsetzen ist schrittgenau.
MetrikenDie Kurve, die du gesehen hast, verbunden mit dem Artefakt, das sie erzeugt hat.

Checkpoints laden per Hash und machen weiter. Zwischenstände dürfen nach einem Lauf entfallen; der letzte bleibt, solange das Modell auf ihn verweist.

Der Zufall ist zählerbasiert: Derselbe Seed an derselben Position im Strom erzeugt auf jedem Gerät dieselbe Ziehung, und der Zufallszustand — mit benannten Teilströmen für Dropout, Shuffle und Augmentierung — wird mit allem anderen gesichert. Ein fortgesetzter Lauf spielt deshalb jede Ziehung exakt nach: dieselben Batches in derselben Reihenfolge, dieselben Dropout-Masken, dieselben Augmentierungen.

Wie reproduzierbar die Arithmetik selbst ist, deklarierst du pro Lauf mit den Determinismus-Stufen debug / prod / fast — durchgängig mitgeführt, beim Ergebnis festgehalten, nie stillschweigend voreingestellt; Korrektheit zeigt, wie jede Stufe gegen eine Referenzimplementierung validiert wird. Die Grenze steht gleich daneben: Auf der GPU stimmen Läufe auf verschiedenen Geräten innerhalb einer deklarierten Toleranz überein — bitgenaue Gleichheit sagt debug auf einem Gerät zu, oder der Referenzpfad auf der CPU.

Ein Checkpoint wird über den Hash seines Inhalts identifiziert; Fortsetzen ist deshalb kein Feature, das still zurückfallen kann — es folgt daraus, wie ein Checkpoint überhaupt abgelegt wird. Und ein abgeschlossener Lauf pinnt alles, worauf er sich gestützt hat — Programm, Dataset-Versionen, Checkpoints, Engine-Version —, und genau das macht ein Ergebnis über einen Link reproduzierbar statt über Folklore.

§6Der lange Lauf

Ein Tab, der einen Drei-Stunden-Lauf ernst nimmt

Ein echter Lauf überdauert deine Aufmerksamkeit, und ein Browser ist ein enger Ort zum Wohnen — Scellis sagt das, statt es zu verstecken. Einen Tab im Hintergrund drosselt der Browser: Der Lauf meldet es laut. Du kannst das Gerät mit deiner Zustimmung wachhalten, den Lauf in ein eigenes Fenster auskoppeln und dich benachrichtigen lassen, wenn er fertig ist oder scheitert. Stürzt der Tab mitten im Lauf ab, kommt er in einem ausdrücklich unterbrochenen Zustand zurück, mit Fortsetzen per Klick vom letzten Checkpoint — nie eine Phantom-Zeile „läuft“, nie still verschwundener Fortschritt.

Daten betreten die Schleife mit derselben Disziplin. Datasets und Konnektoren streamen unter deklarierten Budgets, statt zu laden und zu hoffen, und ein Train/Validation/Test-Split ist ein versioniertes Artefakt, das über seinen Inhalt identifiziert wird — der exakte Split hinter einem Ergebnis bleibt reproduzierbar, statt sich in einem verlorenen Zufallszustand aufzulösen. Und reicht ein Gerät nicht, dehnt sich dieselbe Schleife über deine eigenen Geräte, ein Partnerlabor oder eine offene Menge, die ungenutzte GPUs leiht aus — mit einer Skalierungsgeschichte, die Regime für Regime ehrlich erzählt wird.

Die Ökonomie folgt daraus, wo gerechnet wird: Training auf Hardware, die dir schon gehört, kostet uns nichts an Zählung — also wird es nie gezählt, in jedem Tarif, auch ganz ohne. Für den Rundgang deckt der Guide Training im Browser Ende zu Ende ab.