1. Warum wird so viel Arbeitsspeicher benötigt? Wenn man von „Speicher“ bei LLMs spricht, muss man zwischen zwei Arten von Speicherbedarf unterscheiden: dem statischen (das Modell an sich) und dem dynamischen (die Arbeit während der Antwortgenerierung). 1. Der statische Speicher: Die Modell-Gewichte Ein LLM besteht aus Milliarden von Parametern (Gewichten). Jeder dieser Parameter ist eine…