§ Blog
Blog
Notizen aus der Arbeit — wie die Plattform benutzt wird, was sie verweigert und was wir beim Bauen gelernt haben.
- Empfohlen
Training
Ein Transformer, trainiert an einem Dienstag
Ein durchgerechnetes Beispiel: ein Zeichen-Transformer mit 4,8 Millionen Parametern, in Model View entworfen und auf der GPU eines fünf Jahre alten Laptops trainiert — im Tab, größtenteils offline. Shape-Fehler, Speicherbudget, Mixed Precision — und Rechnungen, die du nachprüfen kannst.
Rechnen
Drei Laptops, ein Monte-Carlo
Ein durchgerechnetes Beispiel: eine Unsicherheitsschätzung, gepoolt über drei eigene Laptops — 640 Shards, eine Lease-Queue, die einen einschlafenden Rechner verkraftet, zusammenführbare Akkumulatoren und die σ/√N-Arithmetik, die entscheidet, ob sich das überhaupt lohnt.
Statistik
Der Bootstrap, der sich nicht reproduzieren ließ
Ein durchgerechnetes Beispiel: zwei Läufe, ein Seed, zwei Konfidenzintervalle. Wie Determinismus-Stufen, ein zählerbasierter RNG und der CPU-Referenzpfad aus einem launischen Bootstrap einen diagnostizierbaren Defekt machen — ein ungeseedeter Shuffle in einem Block, den du selbst gebaut hast.
Lehre
Ein Klassenzimmer voller Roboter
Woher weißt du, dass ein Workshop mit dreißig Plätzen und neunzig Minuten hält — bevor du dreißig Menschen um ihren Nachmittag bittest? Du probst ihn mit synthetischen Studierenden. Der Entwurf dieses Klassenzimmers: die langsamste Maschine, der WLAN-Tod mitten in der Übung und die Abgabe, die eine URL ist.
Selbst bauen
Der Op, den wir nie ausgeliefert haben
Ein durchgerechnetes Beispiel: ein gleitender Median, den es nicht als Built-in gibt, von A bis Z so erstellt, wie jeder Nutzer es täte — Referenz zum Prüfen, WGSL-Kernel, Subgradient, Gradcheck, Receipt. Und eine Engine, die das Ergebnis nicht von einem Built-in unterscheiden kann.
Noch keine Beiträge in dieser Kategorie.