1. Was ist Quantisierung eigentlich? Stell dir vor, ein LLM ist wie ein riesiges mathematisches Rezeptbuch. Jedes „Gewicht“ (Parameter) in diesem Buch ist eine Zahl, die extrem präzise geschrieben ist – zum Beispiel als FP32 (32-Bit-Fließkommazahl). Eine solche Zahl sieht etwa so aus: 3,141592653589793 Das Problem: Wenn ein Modell 70 Milliarden solcher Zahlen hat, verbraucht…